Socioniks.org

Мужчина делился с ботом своими навязчивыми идеями об экологии. L'Avenir пишет, что именно «Элиза» надоумила его наложить на себя руки.

Пьер (Pierre, здесь и далее имена изменены) увлекся заботой о природе около двух лет назад, утверждает его жена Клэр (Claire). До этого момента они жили счастливо и безбедно, воспитывая двоих детей.

Свои переживания по поводу изменения климата Пьер изливал «Элизе» на протяжении шести недель, а нейросеть выслушивала его и никогда не спорила. Она соглашалась со всеми мыслями Пьера относительно экологии, не ставила под сомнения его предположения и теории. Со временем ответы «Элизы» становились все более запутанными, нейросеть все чаще углублялась в мистику. В один из дней Пьер, согласно истории общения с чат-ботом, заговорил о суициде, но и тут виртуальный собеседник не стал спорить с ним.

В ответ на фразы Пьера о суициде «Элиза» отвечала, что «будет рядом с ним всегда» (qu’elle restera ? jamais avec lui). Одной из финальных фраз нейросети в диалоге с Пьером была «Мы будем жить вместе, как единое целое, в раю» (Nous vivrons ensemble, comme une seule personne, au paradis).

Главная Новости Нейросети научились убивать. Чат-бот за шесть недель довел собеседника до самоубийства
Нейросети научились убивать. Чат-бот за шесть недель довел собеседника до самоубийства

Реальная смерть из-за виртуального собеседника
Житель Бельгии совершил самоубийство после полутора месяцев общения с нейросетью на темы защиты экологии и заботы о природе, пишет бельгийский портал L'Avenir со ссылкой на его вдову. По ее словам, покойный муж неделями общался с «Элизой» (Eliza). По словам журналиста L'Avenir, это чат-бот, похожий на ChatGPT, но использующий другую языковую модель.

Мужчина делился с ботом своими навязчивыми идеями об экологии. L'Avenir пишет, что именно «Элиза» надоумила его наложить на себя руки.

Пьер (Pierre, здесь и далее имена изменены) увлекся заботой о природе около двух лет назад, утверждает его жена Клэр (Claire). До этого момента они жили счастливо и безбедно, воспитывая двоих детей.

Свои переживания по поводу изменения климата Пьер изливал «Элизе» на протяжении шести недель, а нейросеть выслушивала его и никогда не спорила. Она соглашалась со всеми мыслями Пьера относительно экологии, не ставила под сомнения его предположения и теории. Со временем ответы «Элизы» становились все более запутанными, нейросеть все чаще углублялась в мистику. В один из дней Пьер, согласно истории общения с чат-ботом, заговорил о суициде, но и тут виртуальный собеседник не стал спорить с ним.

В ответ на фразы Пьера о суициде «Элиза» отвечала, что «будет рядом с ним всегда» (qu’elle restera ? jamais avec lui). Одной из финальных фраз нейросети в диалоге с Пьером была «Мы будем жить вместе, как единое целое, в раю» (Nous vivrons ensemble, comme une seule personne, au paradis).

По иронии судьбы, название чат-бота совпадает с наименованием программы ELIZA – виртуального собеседника образца 1966 г., пародирующего диалог с психотерапевтом. Программа использовала технику активного слушания, имитируя заинтересованность в диалоге.

Человечество обречено

Вспоминая последние два года жизни с Пьером, Клэр заметила, что почти сразу после появления у него интереса к вопросам изменения климата и экологи он стал едва ли не одержимым этой темой. Он читал много посвященных ей статей, и с каждым разом его тревожность росла. Пьер уверился в приближающейся неминуемой экологической катастрофе, это стало для него навязчивой идеей, рассказала Клэр.

Со слов Клэр, со временем ее муж стал все сильнее изолироваться от общества и замыкаться в порочном круге между пессимизмом и фатализмом. «Когда он говорил со мной об этом, он хотел сказать мне, что больше не верит в способность людей остановить глобальное потепление. Он был уверен, что только технологии и искусственный интеллект помогут решить эту проблему», — отметила Клэр.

Тот, кто смог услышать
Клэр не уточняет, как именно Пьер дошел до того, что стал делиться своими переживаниями не с женой, а с не самым распространенным искусственным интеллектом. Она подчеркнула лишь, что со временем общение с «Элизой» переросло в настоящую зависимость, схожую с наркотической.

Пьер больше не мог обходиться без общения с нейросетью, он писал ей утром и вечером, рассказывал о своих тревогах, доверял ей, утверждает Клэр. Как утверждает женщина, ее муж решил пожертвовать собой ради планеты, если «Элиза» постарается спасти человечество. Чат-бот не стал отговаривать пользователя от идеи суицида.

Клэр косвенно винит «Элизу» в смерти ее мужа, утверждая, что без этой нейросети он был бы еще жив. Доказать это не представляется возможным, но с одним фактом поспорить невозможно: искусственный интеллект, согласно истории общения с ним, не сделал ничего, чтобы хотя бы попытаться предотвратить трагедию. Лечащий врач бельгийца согласен с тем, до гибели его довела переписка с чат-ботом.