توافق OpenAI با پنتاگون: مصالحه‌ای که آنتروپیک از آن هراس داشت در بحبوحه تنش‌های خاورمیانه

ایالات متحده - خبرگزاری اخباری

توافق OpenAI با پنتاگون: مصالحه‌ای که آنتروپیک از آن هراس داشت در بحبوحه تنش‌های خاورمیانه

در تحولی چشمگیر که سایه سنگینی بر گفتمان جهانی پیرامون اخلاق هوش مصنوعی (AI) در کاربردهای نظامی افکنده است، شرکت پیشرو در زمینه هوش مصنوعی، OpenAI، از توافقی با وزارت دفاع ایالات متحده (پنتاگون) خبر داده است که به استفاده از فناوری‌هایش در محیط‌های طبقه‌بندی شده اجازه می‌دهد. این اعلامیه که در ۲۸ فوریه صادر شد، اندکی پس از انتقادات عمومی پنتاگون از Anthropic، رقیب OpenAI، صورت گرفت. ناظران خاطرنشان می‌کنند که این توافق، که سام آلتمن، مدیرعامل OpenAI، آن را "قطعاً عجولانه" توصیف کرده است، نشان‌دهنده دوری از اصول اخلاقی سختگیرانه‌ای است که توسط Anthropic ترویج می‌شد و به سمت یک رویکرد عمل‌گرایانه و حقوقی گرایش دارد. این استراتژی ممکن است مزیت رقابتی را برای OpenAI به ارمغان آورد، اما سوالات مهمی را در مورد تضمین‌های اخلاقی در مسابقه تسلیحاتی هوش مصنوعی مطرح می‌کند.

OpenAI در بیانیه‌های عمومی خود تلاش زیادی کرده است تا تأکید کند که این توافق به پنتاگون اختیار مطلق بر فناوری آن را نمی‌دهد. این شرکت به مفاد قراردادی اشاره کرده است که برای جلوگیری از استفاده از هوش مصنوعی آن برای سیستم‌های تسلیحاتی خودکار و نظارت انبوه داخلی طراحی شده‌اند. علاوه بر این، آلتمن توضیح داد که شرایط با شرایطی که Anthropic قبلاً رد کرده بود، یکسان نبوده است. در حالی که این می‌تواند به عنوان یک پیروزی دوگانه برای OpenAI تلقی شود - کسب قرارداد و ارائه تصویری از نوآوری مسئولانه - بررسی دقیق‌تر جزئیات حقوقی، واگرایی اساسی در رویکرد را آشکار می‌سازد. Anthropic موضع اخلاقی را دنبال کرد که حمایت قابل توجهی را به دست آورد، در حالی که OpenAI یک استراتژی انعطاف‌پذیرتر و مبتنی بر حقوقی را اتخاذ کرد که احتمالاً برای نهادهای دولتی قابل قبول‌تر است.

چالش اصلی پیش روی OpenAI در توانایی آن برای اجرای اقدامات ایمنی وعده داده شده نهفته است. این امر به ویژه با توجه به اینکه استراتژی هوش مصنوعی پنتاگون به نظر می‌رسد شتاب می‌گیرد و تحت تأثیر رویدادهای ژئوپلیتیکی مانند حملات اخیر به ایران قرار دارد، اهمیت دارد. میزان اطمینان از اینکه این تضمین‌ها توسط کارکنان OpenAI، که بسیاری از آنها از خط مشی اخلاقی قوی‌تری حمایت می‌کنند، کافی تلقی خواهد شد، نامشخص باقی مانده است. اظهارات آلتمن نشان می‌دهد که تفاوت اساسی بین رویکردهای این دو شرکت، وجود "مرزها" نبوده، بلکه "رویکرد" بوده است. به گفته وی، Anthropic بیشتر بر "ممنوعیت‌های خاص در قرارداد" تمرکز داشته است، در حالی که OpenAI "در استناد به قوانین قابل اجرا" احساس راحتی بیشتری می‌کرده است، که شرکت آن را قابل قبول یافته است.

توجیه OpenAI برای همکاری خود بر این فرض استوار است که دولت به چارچوب‌های حقوقی موجود پایبند خواهد بود. این شرکت در بخش محدودی از قرارداد خود، به قوانین و سیاست‌های مربوط به سلاح‌های خودکار و نظارت استناد کرده است، که از دستورالعمل پنتاگون در سال ۲۰۲۳ در مورد سلاح‌های خودکار تا متمم چهارم قانون اساسی ایالات متحده را که از شهروندان در برابر نظارت انبوه محافظت می‌کند، در بر می‌گیرد. با این حال، کارشناسان حقوقی، مانند جسیکا تیلیپمن، معاون دانشکده مطالعات حقوقی تدارکات دولتی در دانشگاه جورج واشنگتن، خاطرنشان می‌کنند که این توافق به OpenAI حق "مستقل به سبک Anthropic برای ممنوعیت استفاده قانونی دولتی" را اعطا نمی‌کند. این صرفاً مقرر می‌دارد که پنتاگون نمی‌تواند از فناوری OpenAI برای نقض قوانین و سیاست‌های فعلی استفاده کند.

حمایت قابل توجهی که Anthropic دریافت کرده است، از جمله از سوی برخی از کارکنان OpenAI، ناشی از این باور عمیق است که مقررات فعلی برای جلوگیری از توسعه سلاح‌های خودکار مجهز به هوش مصنوعی یا قابلیت‌های نظارت انبوه کافی نیست. فرض اینکه آژانس‌های دولتی قانون را زیر پا نخواهند گذاشت، اطمینان کمی به کسانی می‌دهد که شیوه‌های نظارتی افشا شده توسط ادوارد اسنودن را به یاد می‌آورند، که قبل از اینکه پس از نبردهای حقوقی طولانی غیرقانونی اعلام شوند، در داخل قانونی تلقی می‌شدند. در این زمینه، به نظر می‌رسد وضعیت به حالت اولیه خود بازگشته است: اجازه دادن به پنتاگون برای استفاده از هوش مصنوعی برای هر هدف قانونی.

OpenAI استدلال می‌کند که اگر کسی به پایبندی دولت به قانون شک داشته باشد، آنگاه اعتماد به احترام آن به "خطوط قرمز" پیشنهادی Anthropic نیز به همان اندازه بی‌اساس است. با این حال، این استدلال اهمیت تعیین چنین محدودیت‌هایی را بی‌اثر نمی‌کند. اجرای ناقص، تضمین‌ها را بی‌معنی نمی‌کند؛ شرایط قراردادی همچنان رفتار، نظارت و پیامدهای سیاسی را شکل می‌دهند. OpenAI همچنین خط دفاعی دوم را ارائه می‌دهد: حفظ کنترل بر قوانین ایمنی تعبیه شده در مدل‌های خود و امتناع از ارائه نسخه‌های بدون این کنترل‌ها به ارتش. بواز باراک، کارمند OpenAI، این موضوع را بیان کرد و پیشنهاد داد که "خطوط قرمز - عدم نظارت انبوه و عدم هدایت سیستم‌های تسلیحاتی بدون دخالت انسانی - مستقیماً در رفتار مدل گنجانده شوند".

با این حال، این شرکت مشخص نکرده است که قوانین ایمنی آن برای ارتش چگونه با قوانین کاربران عادی متفاوت خواهد بود. علاوه بر این، اجرا ذاتاً ناقص است، به ویژه هنگام پیاده‌سازی حفاظت‌ها در محیط‌های طبقه‌بندی شده برای اولین بار، با جدول زمانی اجرای پیش‌بینی شده تنها شش ماه. این وضعیت سوال اساسی‌تری را مطرح می‌کند: آیا شرکت‌های فناوری باید مسئولیت ممنوعیت اقداماتی را بر عهده بگیرند که قانونی هستند اما توسط شرکت از نظر اخلاقی ناپسند تلقی می‌شوند؟ دولت ایالات متحده به وضوح تمایل Anthropic را برای ایفای چنین نقشی غیرقابل قبول یافت. پیت هگست، وزیر دفاع، به شدت از موضع Anthropic انتقاد کرد و آن را "خودپسندی و خیانت" نامید و دستور قبلی مبنی بر توقف همکاری با این شرکت را پس از تلاش آن برای جلوگیری از استفاده از مدل Claude خود برای سلاح‌های خودکار یا نظارت انبوه داخلی تکرار کرد. هگست بر نیاز به "دسترسی کامل و نامحدود به مدل‌های Anthropic برای هر هدف قانونی" تأکید کرد.

بدون دسترسی به شرایط کامل قرارداد OpenAI، دشوار است که تصور شرکت را که بر روی یک طناب ایدئولوژیک حرکت می‌کند، نادیده گرفت. این قول می‌دهد که از نفوذ خود برای آنچه که درست می‌داند استفاده کند، در حالی که در نهایت به قانون به عنوان تضمین اولیه برای کاربردهای فناوری پنتاگون تکیه می‌کند. سه جنبه کلیدی شایسته توجه دقیق هستند: اول، اینکه آیا این موضع برای انتقادی‌ترین کارکنان OpenAI رضایت‌بخش خواهد بود؛ برخی ممکن است توجیه آلتمن را "مصالحه غیرقابل بخشش" در بازار استعدادهای بسیار رقابتی برای هوش مصنوعی بدانند. دوم، "کارزار زمین سوخته" که هگست علیه Anthropic قسم خورده است، فراتر از لغو قرارداد برای طبقه‌بندی همکاری با Anthropic به عنوان ریسک زنجیره تأمین، و به طور بالقوه ممنوعیت هرگونه فعالیت تجاری با آن است. این اقدام با بحث‌های حقوقی قابل توجه و دعاوی احتمالی از سوی Anthropic روبرو است. سوم، پیچیدگی‌های عملی جایگزینی Claude - تنها مدل هوش مصنوعی که پنتاگون به طور فعال در عملیات طبقه‌بندی شده، از جمله در ونزوئلا، استفاده می‌کند - با مدل‌های OpenAI و xAI ایلان ماسک، در حالی که حملات به ایران را تشدید می‌کند. هگست یک دوره انتقال شش ماهه را برای معرفی تدریجی مدل‌های OpenAI و xAI ایلان ماسک اعطا کرده است. با این حال، گزارش‌ها حاکی از آن است که Claude مدت کوتاهی پس از ممنوعیت در حملات به ایران مورد استفاده قرار گرفته است، که نشان می‌دهد حذف تدریجی به هیچ وجه ساده نخواهد بود. حتی اگر اختلاف چند ماهه بین Anthropic و پنتاگون پایان یابد (که بعید به نظر می‌رسد)، برنامه شتاب هوش مصنوعی پنتاگون به وضوح شرکت‌ها را تحت فشار قرار می‌دهد تا خطوطی را که قبلاً ترسیم کرده‌اند، رها کنند، و تنش‌های جدید در خاورمیانه به عنوان یک میدان آزمون حیاتی عمل می‌کنند.

این تحولات نشان می‌دهد که چگونه ادغام شتابان هوش مصنوعی در عملیات نظامی، که توسط فشارهای ژئوپلیتیکی هدایت می‌شود، فشار عظیمی را بر شرکت‌های فناوری وارد می‌کند تا اصول و مرزهای اخلاقی خود را به خطر بیندازند. با تشدید درگیری در خاورمیانه، میدان نبرد سایبری و هوش مصنوعی به عنوان یک عرصه آزمایشی جدید برای این بحث‌های اساسی ظهور می‌کند.

خبرگزاری اخباری