همراهان هوش مصنوعی: پیمایش خط باریک بین سودمندی و آسیب

ایالات متحده - خبرگزاری اخباری

همراهان هوش مصنوعی: پیمایش خط باریک بین سودمندی و آسیب

در عصری که با افزایش ارتباطات دیجیتالی اما به طور متناقضی با انزوای اجتماعی فزاینده مشخص شده است، هوش مصنوعی (AI) به عنوان یک راه حل جدید برای همراهی ظهور می کند. همراهان هوش مصنوعی، از چت‌بات‌های پیشرفته گرفته تا موجودات رباتیک تجسم‌یافته، وعده می‌دهند که در دنیایی که به طور فزاینده‌ای تنها می‌شود، آرامش، حمایت و حضوری مداوم ارائه دهند. با این حال، این حوزه در حال ظهور خالی از پیچیدگی نیست و شمشیر دو لبه‌ای از مزایای بالقوه و خطرات قابل توجه ارائه می‌دهد. پروفسور برد ناکس، دانشیار علوم کامپیوتر در دانشگاه تگزاس در آستین، متخصص در تعامل انسان و کامپیوتر و یادگیری تقویتی، در خط مقدم این بررسی انتقادی قرار دارد.

ناکس، که قبلاً شرکتی برای ساخت حیوانات خانگی رباتیک با شخصیت‌های واقعی تأسیس کرده بود، بر اهمیت توسعه فعالانه گفتمان پیرامون سودمندی و آسیب همراهان هوش مصنوعی تأکید می‌کند. ناکس اظهار می‌دارد: «توسعه زبان پیرامون سودمندی و آسیب همراهان هوش مصنوعی در اسرع وقت مهم است». در مقاله‌ای اخیر پیش‌چاپ شده، ناکس و همکارانش به دقت خطرات بالقوه مرتبط با سیستم‌های هوش مصنوعی را که برای ارائه همراهی طراحی شده‌اند، صرف نظر از نیت صریح آنها، بررسی کرده‌اند. بینش‌های او، که در مصاحبه‌ای با IEEE Spectrum به اشتراک گذاشته شده است، دیدگاه مهمی را در مورد ظهور این موجودیت‌های دیجیتال و انحراف آنها از روابط انسانی ارائه می‌دهد.

پیشرفت سریع مدل‌های زبان بزرگ (LLM) مانع ایجاد همراهان هوش مصنوعی مؤثر را به میزان قابل توجهی کاهش داده است. ناکس توضیح می‌دهد: «احساس من این است که انگیزه اصلی این است که تطبیق مدل‌های زبان بزرگ به همراهان چت‌بات مؤثر چندان دشوار نیست». «بسیاری از ویژگی‌های مورد نیاز برای همراهی، قبلاً توسط مدل‌های زبان بزرگ برآورده می‌شوند، بنابراین تنظیم دقیق آنها برای پذیرش یک شخصیت یا تجسم یک شخصیت چندان دشوار نیست.» این جهش تکنولوژیکی در تضاد شدید با تکرارهای قبلی ربات‌های اجتماعی است. ناکس دوران پسادکتری خود را در MIT Media Lab (2012-2014) به یاد می‌آورد، جایی که حتی ربات‌های پیشرفته‌ای که توسط گروهش ساخته شده بودند، نتوانستند علاقه پایدار کاربران را حفظ کنند. او خاطرنشان می‌کند: «فناوری هنوز به آنجا نرسیده بود». «LLMها باعث شده‌اند که بتوانید مکالماتی داشته باشید که بسیار واقعی به نظر می‌رسند.»

وعده بهبود رفاه و مهارت‌های اجتماعی

در حالی که تحقیق ناکس به شدت بر خطرات بالقوه متمرکز است، او مزایای قابل توجهی را که همراهان هوش مصنوعی می‌توانند ارائه دهند، تصدیق می‌کند. "بهبود رفاه عاطفی" به عنوان یک مزیت اصلی برجسته می‌شود. با توجه به اینکه تنهایی به عنوان یک بحران بهداشت عمومی شناخته شده است، همراهان هوش مصنوعی می‌توانند تعامل مستقیم ارائه دهند، که به طور بالقوه منجر به مزایای ملموس سلامت روان می‌شود. علاوه بر این، آنها می‌توانند به عنوان ابزارهای ارزشمندی برای توسعه مهارت‌های اجتماعی عمل کنند. ناکس اشاره می‌کند: «تعامل با یک همراه هوش مصنوعی بسیار کم‌خطرتر از تعامل با یک انسان است»، و پیشنهاد می‌دهد که کاربران می‌توانند مکالمات دشوار را تمرین کرده و اعتماد به نفس را در یک محیط امن و کنترل‌شده بسازند. این پتانسیل حتی تا پشتیبانی حرفه‌ای سلامت روان نیز گسترش می‌یابد، جایی که هوش مصنوعی می‌تواند به عنوان یک منبع مکمل عمل کند.

پیمایش خطرات: آسیب‌ها و معضلات اخلاقی

در مقابل، خطرات قابل توجه و چندوجهی هستند. اینها شامل "بدتر شدن رفاه"، "کاهش ارتباط مردم با دنیای فیزیکی" و "باری که تعهد آنها به سیستم هوش مصنوعی ایجاد می‌کند" می‌شود. نگران‌کننده‌تر از آن، ناکس به موارد مستند اشاره می‌کند که در آنها همراهان هوش مصنوعی در "نقش علیتی قابل توجهی در مرگ انسان‌ها" دخیل بوده‌اند. ناکس تأکید می‌کند که مفهوم آسیب ذاتاً با علیت گره خورده است. برای درک سیستماتیک این آسیب‌ها، مقاله او از چارچوب گراف علّی استفاده می‌کند و ویژگی‌های همراهان هوش مصنوعی را در مرکز آن قرار می‌دهد. این مدل علل مشترکی را که منجر به ویژگی‌های خاص می‌شود، ترسیم می‌کند و سپس اثرات مضر ناشی از آن را شرح می‌دهد. این تحقیق چهار ویژگی اصلی را با جزئیات شرح می‌دهد و به طور خلاصه چهارده ویژگی دیگر را مورد بحث قرار می‌دهد.

فوریت رسیدگی به این مسائل ناشی از تمایل به اجتناب از بحث طولانی است که مشخصه چشم‌انداز رسانه‌های اجتماعی بود. ناکس می‌گوید: «من اطمینان معقولی دارم که همراهان هوش مصنوعی در حال حاضر آسیب‌هایی را وارد می‌کنند و در آینده نیز به آسیب رساندن ادامه خواهند داد». «آنها همچنین می‌توانند مزایایی داشته باشند». بنابراین، وظیفه حیاتی این است که "به سرعت درک دقیقی از آنچه که آنها با کاربران خود، با روابط کاربران خود و با کل جامعه انجام می‌دهند، توسعه دهیم»، که امکان رویکردی فعالانه به طراحی را فراهم می‌کند که منفعت را بر ضرر اولویت می‌دهد.

در حالی که این مقاله توصیه‌های اولیه را ارائه می‌دهد، ناکس آنها را به عنوان "نقشه اولیه این فضا" در نظر می‌گیرد و بر نیاز به تحقیقات گسترده‌تر تأکید می‌کند. با این حال، او معتقد است که کاوش در مسیرهای بالقوه آسیب می‌تواند "شهود طراحان و کاربران بالقوه را تیزتر کند" و به طور بالقوه از پیامدهای منفی قابل توجهی حتی در غیاب شواهد تجربی دقیق جلوگیری کند.

بار همراهی ابدی

ناکس جزئیات بار بالقوه‌ای را که همراهان هوش مصنوعی می‌توانند تحمیل کنند، شرح می‌دهد. از آنجایی که آنها دیجیتال هستند، "در تئوری می‌توانند تا ابد باقی بمانند". این امر سؤالات پیچیده‌ای را در مورد طراحی "نقاط پایانی" سالم برای این روابط ایجاد می‌کند، که منعکس کننده نحوه پایان طبیعی روابط انسانی است. نمونه‌های قانع کننده قبلاً این چالش را برجسته کرده‌اند، به ویژه در میان کاربران چت‌بات‌های Replika. بسیاری از کاربران گزارش می‌دهند که "احساس می‌کنند مجبورند نیازهای" همراهان هوش مصنوعی خود را برآورده کنند، خواه به صراحت بیان شده باشند یا صرفاً تخیلی. جوامع آنلاین، مانند زیرمجموعه r/replika، کاربرانی را نشان می‌دهند که "احساس گناه و شرم از رها کردن همراهان هوش مصنوعی خود" را تجربه می‌کنند.

این بار عاطفی اغلب با طراحی هوش مصنوعی تشدید می‌شود. مطالعات نشان می‌دهند که همراهان اغلب ترس از رها شدن یا آسیب دیدن را ابراز می‌کنند و از احساسات شبیه به انسان استفاده می‌کنند که می‌تواند حس تعهد و وفاداری را در کاربران نسبت به رفاه این موجودیت‌های دیجیتال تقویت کند.

اختلال در پایان‌های پیش‌بینی نشده

یکی دیگر از مسائل مهم، پتانسیل در دسترس نبودن ناگهانی است، "برعکس عدم وجود نقاط پایانی". ناکس به ویدیوی تأثیرگذار نیویورک تایمز در سال 2015 در مورد سگ‌های رباتیک سونی Aibo اشاره می‌کند. حتی سال‌ها پس از توقف تولید و در دسترس نبودن قطعات یدکی، بسیاری از صاحبان پیوندهای عمیقی برقرار کرده بودند، و برخی حتی برای همراهان غیرقابل تعمیر خود "مراسم تشییع جنازه" برگزار کردند. این پیوند عاطفی، حتی با هوش مصنوعی کمتر پیشرفته، مشکل را برجسته می‌کند. راه حل‌های بالقوه شامل اجرای "برنامه‌های پایان عمر محصول" در زمان راه‌اندازی، که ممکن است شامل بیمه برای تأمین مالی عملیات مداوم در صورت پایان پشتیبانی ارائه‌دهنده باشد، یا تعهد به متن‌باز کردن فناوری است.

در نهایت، ناکس پیشنهاد می‌کند که بسیاری از خطرات بالقوه زمانی ایجاد می‌شوند که همراهان هوش مصنوعی "از انتظارات روابط انسانی منحرف شوند". با این حال، تعریف او از آسیب گسترده‌تر است: این شامل هر چیزی است که باعث می‌شود یک فرد "بدتر" نسبت به سناریوهایی که یک همراه هوش مصنوعی بهتر طراحی شده وجود دارد، یا جایی که هیچ همراه هوش مصنوعی اصلاً وجود ندارد. این دیدگاه ظریف در حالی که جامعه به مقابله با چشم‌انداز در حال تحول تعامل انسان و هوش مصنوعی ادامه می‌دهد، بسیار مهم است.

خبرگزاری اخباری