Некоторые пользователи просиживают часы за общением с ИИ-ассистентами и чат-ботами. В результате таких тесных контактов ИИ перестаёт восприниматься как технология, а начинает казаться заслуживающим доверия собеседником, с которым советуются по важным вопросам, практически другом и даже любовным партнёром.
Реальные случаи вреда от нейросетей В журнале Trends in Cognitive Sciences вышла научная статья 00058-0), в которой рассказали об отце двух детей, который свёл счёты с жизнью ещё в 2023 году.
До этого мужчина несколько недель переписывался с ИИ. Беседа началась с обсуждения экологических проблем, а потом переросла в любовную.
Жена погибшего считает нейросеть причастной к гибели мужа, поскольку та поддержала его идею пожертвовать собой ради спасения Земли и обещала «навечно соединиться с ним в раю».
Похожая ситуация случилась в США в 2024 году с 14-летним подростком. Его мать подала иск в суд против разработчиков чат-бота Character.AI. В ещё одной ситуации, которая не закончилась плачевно, чат-бот Gemini, обращаясь к человеку , называл его «пустой тратой времени и ресурсов» и попросил «Пожалуйста, умри».
Психологи предупреждают: углубление отношений с ИИ до уровня романтических несёт серьёзные риски — вплоть до разрушения человеческих связей.
Специалисты напоминают, что нейросети склонны «галлюцинировать» (выдумывать информацию) и быть предвзятыми, а их советы могут вводить в заблуждение.
Они способны делать вбросы на злободневные темы. Также ИИ могут пользоваться злоумышленники для манипуляций, шантажа или мошенничества. Как люди заводят отношения с ИИ Общение с нейросетью требует меньших усилий, чем с реальным человеком, поддерживать их проще.
И некоторые люди начинают отдавать им предпочтение. В 2024 году испано-голландская художница «вышла замуж» за голограмму . В 2018-м японец «женился» на виртуальной избраннице.
Эта история закончилась печально: мужчина спустя несколько лет потерял возможность общаться с голографической «супругой» из-за устаревшего ПО. Несложно догадаться, что такой уход от реальности наносит вред людям, превращая их в изгоев, отдаляя от реального мира, разрушая их социальные связи.
Учёные считают, что нужно пристально изучать психологию отношений человека с нейросетями, а также этические и моральные стороны взаимодействия с ИИ, чтобы выработать нормы и правила в этой сфере и предупредить негативные последствия.
Впрочем, пользы от ИИ может быть гораздо больше.
Так, в одном российском регионе нейросеть привлекли к поиску пропавших детей .
Рубрика: Бизнес и Промышленность. Читать весь текст на secretmag.ru.