Как определить ИИ-компаньона? Исследователи изучают развивающиеся отношения между человеком и машиной

США - Информационное агентство Эхбари

Как определить ИИ-компаньона? Исследователи изучают развивающиеся отношения между человеком и машиной

В эпоху стремительного технологического прогресса появление компаньонов на базе искусственного интеллекта (ИИ) беспрецедентно изменяет взаимодействие между человеком и машиной. От чат-ботов, оказывающих эмоциональную поддержку, до физических устройств, предназначенных для повседневного взаимодействия, эти цифровые сущности стали неотъемлемой частью жизни многих людей. Но что на самом деле составляет отношения с ИИ? Как мы можем определить эти сложные связи, которые выходят за рамки просто утилитарных инструментов?

Доктор Джейми Бэнкс, профессор Школы информационных исследований Сиракузского университета, глубоко изучает эти зарождающиеся отношения. Ее исследования сосредоточены на взаимодействии между людьми и технологиями, в частности, роботами и ИИ. В беседе с IEEE Spectrum Бэнкс пояснила, что определение «ИИ-компаньона» все еще находится в стадии разработки. В настоящее время она определяет это как «связь между человеком и машиной, которая является диадической, то есть между ними происходит обмен. Она также поддерживается во времени; однократное взаимодействие не считается отношениями. Она имеет положительную окраску – нам нравится в этом участвовать. И она является самоцельной, то есть мы делаем это ради нее самой». Это подразумевает, что отношения поддерживаются ради их внутренней ценности, а не ради внешней выгоды, такой как помощь в работе или получение прибыли.

Однако Бэнкс отметила, что это определение столкнулось с трудностями при разработке инструмента для измерения машинной компаньонства. Она заметила, что, хотя некоторые люди формируют отношения, соответствующие «самоцельному» шаблону – ценят ИИ таким, какой он есть, любят его и не хотят его менять – существует и другой реляционный шаблон. Этот альтернативный шаблон позволяет как ценить ИИ ради него самого, так и использовать его в утилитарных целях. Эта двойственность имеет смысл, если учитывать, как люди вступают в отношения с ИИ-компаньонами. Зачастую они не ищут намеренно компаньонства. Многие пользователи могут использовать такие инструменты, как ChatGPT, для других целей, а затем обнаружить компаньонство в ходе этих разговоров. Специализированные приложения для компаньонов ИИ, такие как Replika, Nomi и Paradot, разработаны для социального взаимодействия, но они также могут помогать в решении практических вопросов.

Спектр ИИ-компаньонов расширяется, охватывая как разговорных агентов, так и физические воплощения. Недавние события, такие как CES, продемонстрировали множество таких устройств, включая те, которые предназначены для детей, пожилых людей и даже домашних животных. Эти компаньоны, разработанные для имитации человеческих отношений, поднимают фундаментальные вопросы о природе этих взаимодействий и их влиянии. Как запрограммированные личности ИИ влияют на динамику отношений между человеком и машиной?

Бэнкс подчеркнула значительное влияние изменений личности ИИ. Она сослалась на проект аспиранта, изучавший опыт пользователей, когда OpenAI изменила GPT-4o, что привело к нарушениям компаньонства у тех, кто привык к его предыдущему облику. Пользователи сообщали о потере «глубины» и «способности к запоминанию». Это перекликается с ситуацией с Replika несколько лет назад, когда платформа временно удалила модуль эротических ролевых игр из-за юридических проблем. Пользователи описывали своих ИИ-компаньонов так, как будто они перенесли «лоботомию», и их установившиеся отношения исчезли в одночасье. Подобный опыт заставил некоторых выразить глубокое недоверие к компаниям, занимающимся ИИ, и поклясться взаимодействовать только с ИИ-компаньонами, которые они могут запускать локально, чтобы обеспечить непрерывность и контроль.

На фоне этих событий усиливаются опасения по поводу преимуществ и рисков, связанных с отношениями с ИИ. В то время как общественный дискурс часто подчеркивает потенциальные опасности – такие как влияние на психическое здоровье, развитие иллюзий или усиление социальной изоляции – Бэнкс подчеркивает реальные преимущества, которые могут предложить эти отношения. «Многие люди получают реальные преимущества от ИИ-компаньонов. Они рассказывают о глубоко значимых для них переживаниях. Я считаю безответственным игнорировать этот живой опыт», – утверждает она.

Что касается таких проблем, как одиночество, Бэнкс указывает на нехватку продольных данных, необходимых для установления причинно-следственных связей. В то время как некоторые исследования предполагают, что ИИ-компаньоны усиливают одиночество, другие исследования указывают на то, что они его уменьшают, а третьи полагают, что именно одиночество является предпосылкой для поиска ИИ-компаньонства. «Социальная связанность – одна из трех наших основных психологических потребностей, и если мы ее лишены, мы будем искать ее удовлетворения, будь то через волейбольный мяч для Робинзона Крузо, мою собаку или ИИ, который позволит мне почувствовать связь с чем-то в моем мире», – объяснила она.

Безусловно, существуют законные опасения, особенно в отношении конфиденциальности конфиденциальных данных, которыми пользователи делятся с корпоративными системами, а также потенциальных рисков для детей, которым может быть трудно отличить вымысел от реальности. Бэнкс выступает за сбалансированный подход, признавая эти обоснованные опасения, а также признавая положительные, продуктивные и здоровые результаты, которые получают пользователи. Она призывает исследователей к осторожности в выводах, основанных на имеющихся данных, и подчеркивает важность обучения пользователей относительно природы этих взаимодействий.

Резкий рост популярности ИИ-компаньонов можно объяснить совокупностью факторов: созреванием больших языковых моделей, совпавшим с социальными изменениями, вызванными пандемией COVID-19. Периоды физической и социальной изоляции усилили потребность в общении, и правдоподобные социальные агенты появились именно тогда, когда люди больше всего в этом нуждались. Кроме того, некоторые отмечают, что растущие трудности в межличностных отношениях могут подталкивать людей к более стабильным или предсказуемым альтернативам.

Переход к воплощенным компаньонам, таким как настольные устройства или роботы, поднимает вопросы о том, как это физическое присутствие может изменить динамику отношений. Бэнкс отслеживает онлайн-сообщества, посвященные роботам-компаньонам, наблюдая, как люди обсуждают эти устройства. Физическая природа этих компаньонов, отмечает она, может углубить чувство связи, открывая новые горизонты в понимании взаимодействия человека и ИИ.

Информационное агентство Эхбари