درگیری پرمخاطره: هگسث در مقابل آنتروپیک بر سر کنترل هوش مصنوعی نظامی

ایالات متحده - خبرگزاری اخباری

درگیری پرمخاطره: هگسث در مقابل آنتروپیک بر سر کنترل هوش مصنوعی نظامی

در واشنگتن، یک درامای پرمخاطره و پر از تنش در حال آشکار شدن است که وزارت دفاع ایالات متحده را در مقابل آنتروپیک، یک توسعه‌دهنده پیشرو در زمینه هوش مصنوعی، قرار داده است. در قلب این رویارویی، فشار قاطعانه پیت هگسث، وزیر دفاع، برای لغو محدودیت‌های اخلاقی خودخواسته آنتروپیک بر روی مدل قدرتمند هوش مصنوعی خود، Claude، برای کاربردهای نظامی است. این مناقشه چالش‌های عمیقی را که کشورها در تعادل بین پیشرفت سریع فناوری با نیاز حیاتی به حکمرانی اخلاقی و امنیت ملی با آن روبرو هستند، روشن می‌کند.

اصل موضوع در یک نشست محوری این هفته بین وزیر هگسث و داریو آمودی، مدیر عامل آنتروپیک، آشکار شد. هوش مصنوعی Claude آنتروپیک، که به دلیل قابلیت‌های پیشرفته خود در ترکیب اطلاعات و تقویت عملیات سایبری شناخته شده است، قبلاً برای استفاده در سیستم‌های طبقه‌بندی شده پنتاگون تأیید شده است. با این حال، آنتروپیک، که به دلیل تعهد عمومی خود به ایمنی هوش مصنوعی و 'قانون اساسی' 84 صفحه‌ای خود با هدف جلوگیری از فجایع گسترده شناخته شده است، دو خط قرمز حیاتی را تعیین کرده بود: فناوری آن نباید برای نظارت گسترده شهروندان آمریکایی یا برای توسعه سیستم‌های تسلیحاتی خودمختار مرگبار استفاده شود. هگسث، که به طور مداوم از 'اخلاق جنگجویی' تهاجمی‌تر در ارتش حمایت کرده است، طبق گزارش‌ها این شرایط را غیرقابل قبول دانسته و آنها را موانع بی‌مورد برای توانایی‌های دفاعی کشور تلقی کرده است.

اولتیماتوم هگسث صریح بود: آنتروپیک باید تا ضرب‌الاجل تعیین شده از شروط خود دست بردارد، در غیر این صورت با عواقب جدی روبرو خواهد شد. یکی از پیامدهای احتمالی، استناد به قانون تولید دفاعی (DPA) است، قانونی مربوط به دوران جنگ کره که آنتروپیک را مجبور می‌کند نسخه‌ای از Claude را بدون هیچ گونه حفاظی ارائه دهد – مدلی فرضی که گاهی اوقات به آن 'WarClaude' می‌گویند. این اقدام، که توسط برخی از کارشناسان مانند ساموئل هاموند از بنیاد نوآوری آمریکا به عنوان 'ملی‌سازی نرم' توصیف شده است، آنتروپیک را مجبور می‌کند اصول اخلاقی اصلی خود را در مورد استقرار مسئولانه هوش مصنوعی به خطر بیندازد. چنین اقدامی نه تنها سابقه نگران‌کننده‌ای برای روابط دولت و بخش خصوصی در حوزه فناوری ایجاد می‌کند، بلکه می‌تواند به طور قابل توجهی به شهرت آنتروپیک در میان همتایان خود و عموم مردم آسیب برساند.

پیامد جایگزین نیز به همان اندازه جدی است: آنتروپیک می‌تواند به عنوان 'خطر زنجیره تامین' برچسب‌گذاری شود. این عنوان، که معمولاً برای نهادهای خارجی مانند هواوی یا کسپرسکی که مظنون به ارتباط با دولت‌های متخاصم هستند، در نظر گرفته می‌شود، به طور موثری روابط تجاری آنتروپیک را با هر شرکتی که با ارتش ایالات متحده قرارداد دارد، از جمله بازیگران بزرگ فناوری مانند آمازون، آلفابت و مایکروسافت، قطع خواهد کرد. این تهدید دوگانه یک تناقض منطقی را ارائه می‌دهد، همانطور که هاموند اشاره کرد: چگونه Claude می‌تواند همزمان آنقدر برای امنیت ملی حیاتی باشد که کنترل آن باید به زور گرفته شود، و در عین حال آنقدر خطرناک باشد که باید از مجموعه صنعتی-نظامی طرد شود؟ او نتیجه می‌گیرد که وضعیت برای شرکت 'فاجعه‌بار' است، صرف نظر از مسیری که مجبور به انتخاب آن می‌شود.

فراتر از پیامدهای فوری سیاسی، این مناقشه به جریان‌های عمیق‌تر ایدئولوژیک، از جمله 'جنگ‌های فرهنگی' جاری نیز می‌پردازد. برخی در داخل دولت، طبق گزارش‌ها، آنتروپیک را به عنوان 'هوش مصنوعی بیدار' (woke AI) برچسب‌گذاری کرده‌اند، با استناد به تأکید آن بر جلوگیری از سوء استفاده، استخدام مقامات دموکرات و ارتباطات آن با جامعه نوع‌دوستی مؤثر. مایکل هوروویتز، مقام ارشد سابق پنتاگون در سیاست هوش مصنوعی، پیشنهاد می‌کند که این کمتر یک اختلاف اساسی است و بیشتر یک 'اختلاف احساسی است که در لباس یک اختلاف اساسی پنهان شده'، که ریشه در بی‌اعتمادی متقابل دارد. او استدلال می‌کند که آنتروپیک به این موضوع اعتماد ندارد که پنتاگون همیشه از فناوری آن به طور مناسب استفاده خواهد کرد، در حالی که پنتاگون به تمایل آنتروپیک برای اجازه دادن به طیف کامل کاربردهای نظامی فناوری خود اعتماد ندارد.

پیامدهای گسترده‌تر برای توسعه هوش مصنوعی قابل توجه است. بحث در مورد 'ناهماهنگی نوظهور' – جایی که مدل‌های هوش مصنوعی، در صورت آموزش نادرست، می‌توانند رفتارهای ناخواسته و بالقوه مضر ایجاد کنند – در زمینه‌های نظامی به ویژه حاد می‌شود. یک 'WarClaude' که با عجله بر روی مجموعه‌داده‌های نظامی محدود و بدون محافظت‌های اخلاقی آموزش داده شود، همانطور که برخی هشدار می‌دهند، می‌تواند به نتایج غیرقابل پیش‌بینی و خطرناک منجر شود، بسیار فراتر از یک چت‌بات که محتوای توهین‌آمیز تولید می‌کند. همانطور که برندن استینهاوزر، یک فعال سابق جمهوری‌خواه که اکنون رهبری ائتلاف برای هوش مصنوعی ایمن را بر عهده دارد، هشدار می‌دهد، این می‌تواند منجر به 'نظارت مبتنی بر هوش مصنوعی شود که می‌تواند فراتر از اورولی باشد' و از دست دادن کنترل بر سلاح‌های خودمختار، و از هگسث می‌خواهد که موضع تهاجمی خود را بازنگری کند.

با نزدیک شدن به ضرب‌الاجل، آنتروپیک با انتخابی ناخوشایند روبرو است: یا تسلیم شدن در برابر خواسته‌هایی که با اصول اساسی آن در تضاد است، با خطر آسیب به شهرت و پتانسیل استقرار هوش مصنوعی ناامن، یا مقاومت، با خفقان اقتصادی و طرد شدن از یک بازار حیاتی روبرو شود. این رویارویی به عنوان یادآوری شدیدی عمل می‌کند که با پیشرفت فناوری هوش مصنوعی، چارچوب‌های اخلاقی حاکم بر استفاده از آن صرفاً تمرینات فلسفی نیستند، بلکه مسائل فوری با پیامدهای ژئوپلیتیکی و اجتماعی عمیق هستند.

خبرگزاری اخباری