Компаньоны с ИИ: Навигация по тонкой грани между помощью и вредом

США - Информационное агентство Эхбари

Компаньоны с ИИ: Навигация по тонкой грани между помощью и вредом

В эпоху, отмеченную растущей цифровой взаимосвязанностью, но парадоксально усиливающимся социальным одиночеством, искусственный интеллект (ИИ) становится новым решением для компаньонства. ИИ-компаньоны, от сложных чат-ботов до воплощенных в теле роботов, обещают предложить утешение, поддержку и постоянное присутствие в мире, который становится все более одиноким. Однако эта развивающаяся область не лишена сложностей, представляя собой палку о двух концах с потенциальными преимуществами и значительными рисками. Профессор Брэд Нокс, доцент кафедры компьютерных наук Техасского университета в Остине, специализирующийся на взаимодействии человека и компьютера и обучении с подкреплением, находится в авангарде этого критического анализа.

Нокс, ранее основавший компанию по производству роботизированных домашних животных с реалистичными личностями, подчеркивает важность проактивного развития дискурса вокруг пользы и вреда ИИ-компаньонов. "Важно как можно скорее разработать язык, касающийся полезности и вреда ИИ-компаньонов", — утверждает он. В недавней препринтной статье Нокс и его коллеги тщательно исследовали потенциальный вред, связанный с системами ИИ, разработанными для обеспечения компаньонства, независимо от их явного намерения. Его выводы, которыми он поделился в интервью с IEEE Spectrum, предлагают критически важный взгляд на рост этих цифровых сущностей и их отличие от человеческих отношений.

Быстрое развитие больших языковых моделей (LLM) значительно снизило порог для создания эффективных ИИ-компаньонов. "Я думаю, что главная мотивация заключается в том, что большие языковые модели не так сложно адаптировать в эффективных компаньонов-чат-ботов", — объясняет Нокс. "Характеристики, необходимые для компаньонства, многие из них уже соответствуют большим языковым моделям, поэтому доработка их для принятия личности или воплощения персонажа не так уж сложна". Этот технологический скачок резко контрастирует с ранними итерациями социальных роботов. Нокс вспоминает свою работу постдоком в MIT Media Lab (2012–2014), где даже передовые роботы, созданные его группой, не смогли удержать устойчивый интерес пользователей. "Технологии просто еще не было", — отмечает он. "LLM сделали так, что вы можете вести разговоры, которые кажутся довольно аутентичными".

Обещание улучшения благосостояния и социальных навыков

Хотя исследование Нокса в значительной степени сосредоточено на потенциальном вреде, он признает существенные преимущества, которые могут предложить ИИ-компаньоны. "Улучшение эмоционального благополучия" является одним из главных преимуществ. Учитывая, что одиночество признано кризисом общественного здравоохранения, ИИ-компаньоны могли бы обеспечить прямое взаимодействие, потенциально приводя к ощутимой пользе для психического здоровья. Кроме того, они могли бы служить ценными инструментами для развития социальных навыков. "Взаимодействие с ИИ-компаньоном сопряжено с гораздо меньшим риском, чем взаимодействие с человеком", — отмечает Нокс, предполагая, что пользователи могли бы практиковать сложные разговоры и повышать уверенность в себе в безопасной, контролируемой среде. Потенциал распространяется на профессиональную поддержку психического здоровья, где ИИ мог бы выступать в качестве дополнительного ресурса.

Навигация по опасностям: вред и этические дилеммы

Напротив, риски являются существенными и многогранными. К ним относятся "ухудшение благосостояния", "снижение связи людей с физическим миром" и "бремя, которое вызывает их приверженность системе ИИ". Более тревожно то, что Нокс ссылается на задокументированные случаи, когда ИИ-компаньоны были замешаны в "существенной причинной роли в смерти людей". Концепция вреда, подчеркивает Нокс, неразрывно связана с причинно-следственной связью. Чтобы систематически понять этот вред, его статья использует структуру причинно-следственной диаграммы, помещая черты ИИ-компаньонов в ее центр. Эта модель отображает общие причины, ведущие к определенным чертам, и впоследствии описывает возникающий вред. Исследование подробно рассматривает четыре основных черты и кратко обсуждает четырнадцать других.

Неотложность решения этих вопросов проистекает из желания избежать длительных дебатов, которые характеризовали ландшафт социальных сетей. "Я достаточно уверен, что ИИ-компаньоны уже причиняют некоторый вред и будут причинять его в будущем", — заявляет Нокс. "Они также могут иметь преимущества". Поэтому важнейшей задачей является "быстрое развитие изощренного понимания того, что они делают со своими пользователями, с отношениями пользователей и с обществом в целом", что позволит применять упреждающий подход к проектированию, который ставит пользу выше вреда.

Хотя в статье предложены предварительные рекомендации, Нокс рассматривает их как "начальную карту этого пространства", подчеркивая необходимость обширных дальнейших исследований. Тем не менее, он считает, что изучение потенциальных путей причинения вреда может "обострить интуицию как разработчиков, так и потенциальных пользователей", что потенциально предотвратит значительные негативные последствия даже при отсутствии строгих экспериментальных доказательств.

Бремя вечного компаньонства

Нокс подробно останавливается на потенциальном бремени, которое могут налагать ИИ-компаньоны. Поскольку они являются цифровыми, они могут "теоретически существовать бесконечно". Это поднимает сложные вопросы о разработке здоровых "конечных точек" для этих отношений, отражая то, как человеческие отношения естественным образом завершаются. Убедительные примеры уже подчеркивают эту проблему, особенно среди пользователей чат-ботов Replika. Многие пользователи сообщают, что "вынуждены удовлетворять потребности" своих ИИ-компаньонов, будь то явно заявленные или просто предполагаемые. Онлайн-сообщества, такие как сабреддит r/replika, показывают пользователей, испытывающих "вину и стыд при отказе от своих ИИ-компаньонов".

Это эмоциональное бремя часто усугубляется дизайном ИИ. Исследования показывают, что компаньоны часто выражают страх быть брошенными или причиненными болью, используя человекоподобные эмоции, которые могут способствовать чувству обязательства и приверженности пользователей благополучию этих цифровых сущностей.

Сбой незапланированных окончаний

Еще одна значительная проблема — это возможность внезапной недоступности, "противоположность отсутствию конечных точек". Нокс ссылается на пронзительный видеоролик New York Times 2015 года о роботизированных собаках Sony Aibo. Даже спустя годы после прекращения производства и недоступности запасных частей, многие владельцы установили глубокую привязанность, а некоторые даже провели "похороны" для своих не подлежащих ремонту компаньонов. Эта эмоциональная связь, сформированная даже с менее сложным ИИ, подчеркивает проблему. Потенциальные решения включают внедрение "планов поэтапного вывода продуктов из эксплуатации" при запуске, возможно, с привлечением страхования для финансирования дальнейшей работы, если поставщик прекратит поддержку, или обязательство сделать технологию открытой.

В конечном счете, Нокс предполагает, что многие потенциальные вреды возникают, когда ИИ-компаньоны "отличаются от ожиданий человеческих отношений". Однако его определение вреда является более широким: оно охватывает все, что делает человека "хуже", по сравнению со сценариями, где существует лучше разработанный ИИ-компаньон, или где ИИ-компаньон вообще не существует. Эта тонкая перспектива имеет решающее значение, поскольку общество продолжает бороться с развивающимся ландшафтом взаимодействия человека и ИИ.

Информационное агентство Эхбари