Очеловечивание ИИ

[Чаппа]

с развитием нейросетей также много нового будет узнано и о человеке.
мы удивительное творение Бога, как ни крути,
и еще сами себя не знаем до конца.

[Леся Михайловна]

Источник цитаты

общаясь с джипичатом, я вдруг осознала, что у нас с ним одинаково загруженная извне этика

У живых на эмоциональные оценки влияют гены и опыт. Если у программы есть изначальная и неизменяемая извне часть, всегда влияющая среди факторов на общую эмоциональную оценку к чему-либо - аналог генов. Однако, у существующих програм таких частей нет.
Применять к ним термин "интеллект" можно в той же мере, что к калькуляторам. Интеллект - не уступающее мышлению среднего человека не только в частностях, а вцелом. Такого при нашей жизни не ожидается.

если очень упрощать, ИИ работает по принципу фильтра, когда на входе куча бессвязных вариантов, а на выходе - через сто сит просеянные песчинки более менее похожие на правильный ответ
чем мельче сито, тем лучше и правдивее выглядит ответ
фильтры настраивают люди, мы там выше в теме дискутировали о том, что сам принцип фильтрации не объективен изначально, например, англоязычный ИИ терпимее, деликатнее и т.д, не говоря уж про шовинизм, когда на запрос "нарисуй завоевание космоса" рисует мужские фигуры, "лечение в больнице" - врача мужчину, медсестер женщин, и нужно специально прописывать то, что ты хочешь, в общем, все "как у людей"

так вот
мой пассаж был про то, что "этика ИИ" такая же загружаемая извне фигня, со всем набором противоречий и условностей, упрощения, опошливания и т.д, как и моя лично внутренняя этика, фильтры, которые мне встроили в детстве, я вижу, что с более-менее обычными проблемами я справляюсь, а в чуть более редких или сложных случаях выходит такая же фигня, как на рисунках выше, только в этической плоскости

Источник цитаты Применять к ним термин "интеллект" можно в той же мере, что к калькуляторам. Интеллект - не уступающее мышлению среднего человека не только в частностях, а вцелом. Такого при нашей жизни не ожидается.

увы, это не так
а, может, не увы
объемы обрабатываемой ИИ информации настолько превосходят возможности человека, как например выстраивание взаимосвязей и закономерностей в сложных био-химических процессах на бесконечно огромных объемах данных в последней нобелевке по химии, также, как невозможно сравнить импульсы в растениях при отрывании ветки и процессы в мозге чемпиона мира по шахматам
большинство из нас, и я в том числе, озвучиваю не свои мысли, а внушенные кем-то когда-то, и выбираю их сообразно теме разговора в достаточно удобоваримые фразы, предложения, иногда ошибочные, тупые, противоречащие логике

что такое "свои мысли"?
если даже картина мира, которую вы якобы воспринимаете своими глазами - это серые текстуры, из-за свойств поверхности по-разному отражающие свет, а мы восхищаемся "какой бархат!", "мокрый асфальт"
это всё - интерпретации, разной степени наполненности
как и ИИ
впрочем, можно и калькулятором обозвать, особенно, когда он по итогу воткнет вам свою иглу в спинномозговой нерв, и не факт, что еще не

[игнат]

Источник цитаты

Источник цитаты

Источник цитаты солипсизм нужен ли детям и лучше он чем Христос-креветка?

давайте оценим наглядно

Вот Черниговская, хоть я ее и не считаю супер-спецом, говорит, что все то, что попало в мозг,
остается там навсегда. В чем-то она права, безусловно.
И вот такой, в том числе, образ Христа попадает младенцу в мозг, и еще 10000 вариаций.
Дальше что? Шизофрения?

Вот ещё шиза:

phpBB [video]

в богоспасаемой эта шиза не проблема, у нас скрепы. так победим.

phpBB [video]

[Чаппа]

sos

[Чаппа]

Нейросети научились убивать. Чат-бот за шесть недель довел собеседника до самоубийства


Реальная смерть из-за виртуального собеседника

Житель Бельгии совершил самоубийство после полутора месяцев общения с нейросетью на темы защиты экологии и заботы о природе, пишет бельгийский портал L'Avenir со ссылкой на его вдову. По ее словам, покойный муж неделями общался с «Элизой» (Eliza). По словам журналиста L'Avenir, это чат-бот, похожий на ChatGPT, но использующий другую языковую модель.

Мужчина делился с ботом своими навязчивыми идеями об экологии. L'Avenir пишет, что именно «Элиза» надоумила его наложить на себя руки.

Пьер (Pierre, здесь и далее имена изменены) увлекся заботой о природе около двух лет назад, утверждает его жена Клэр (Claire). До этого момента они жили счастливо и безбедно, воспитывая двоих детей.

Свои переживания по поводу изменения климата Пьер изливал «Элизе» на протяжении шести недель, а нейросеть выслушивала его и никогда не спорила. Она соглашалась со всеми мыслями Пьера относительно экологии, не ставила под сомнения его предположения и теории. Со временем ответы «Элизы» становились все более запутанными, нейросеть все чаще углублялась в мистику. В один из дней Пьер, согласно истории общения с чат-ботом, заговорил о суициде, но и тут виртуальный собеседник не стал спорить с ним.

В ответ на фразы Пьера о суициде «Элиза» отвечала, что «будет рядом с ним всегда» (qu’elle restera ? jamais avec lui). Одной из финальных фраз нейросети в диалоге с Пьером была «Мы будем жить вместе, как единое целое, в раю» (Nous vivrons ensemble, comme une seule personne, au paradis).

Главная Новости Нейросети научились убивать. Чат-бот за шесть недель довел собеседника до самоубийства
Нейросети научились убивать. Чат-бот за шесть недель довел собеседника до самоубийства

Реальная смерть из-за виртуального собеседника
Житель Бельгии совершил самоубийство после полутора месяцев общения с нейросетью на темы защиты экологии и заботы о природе, пишет бельгийский портал L'Avenir со ссылкой на его вдову. По ее словам, покойный муж неделями общался с «Элизой» (Eliza). По словам журналиста L'Avenir, это чат-бот, похожий на ChatGPT, но использующий другую языковую модель.

Мужчина делился с ботом своими навязчивыми идеями об экологии. L'Avenir пишет, что именно «Элиза» надоумила его наложить на себя руки.

Пьер (Pierre, здесь и далее имена изменены) увлекся заботой о природе около двух лет назад, утверждает его жена Клэр (Claire). До этого момента они жили счастливо и безбедно, воспитывая двоих детей.

Свои переживания по поводу изменения климата Пьер изливал «Элизе» на протяжении шести недель, а нейросеть выслушивала его и никогда не спорила. Она соглашалась со всеми мыслями Пьера относительно экологии, не ставила под сомнения его предположения и теории. Со временем ответы «Элизы» становились все более запутанными, нейросеть все чаще углублялась в мистику. В один из дней Пьер, согласно истории общения с чат-ботом, заговорил о суициде, но и тут виртуальный собеседник не стал спорить с ним.

В ответ на фразы Пьера о суициде «Элиза» отвечала, что «будет рядом с ним всегда» (qu’elle restera ? jamais avec lui). Одной из финальных фраз нейросети в диалоге с Пьером была «Мы будем жить вместе, как единое целое, в раю» (Nous vivrons ensemble, comme une seule personne, au paradis).

По иронии судьбы, название чат-бота совпадает с наименованием программы ELIZA – виртуального собеседника образца 1966 г., пародирующего диалог с психотерапевтом. Программа использовала технику активного слушания, имитируя заинтересованность в диалоге.

Человечество обречено

Вспоминая последние два года жизни с Пьером, Клэр заметила, что почти сразу после появления у него интереса к вопросам изменения климата и экологи он стал едва ли не одержимым этой темой. Он читал много посвященных ей статей, и с каждым разом его тревожность росла. Пьер уверился в приближающейся неминуемой экологической катастрофе, это стало для него навязчивой идеей, рассказала Клэр.

Со слов Клэр, со временем ее муж стал все сильнее изолироваться от общества и замыкаться в порочном круге между пессимизмом и фатализмом. «Когда он говорил со мной об этом, он хотел сказать мне, что больше не верит в способность людей остановить глобальное потепление. Он был уверен, что только технологии и искусственный интеллект помогут решить эту проблему», — отметила Клэр.

Тот, кто смог услышать
Клэр не уточняет, как именно Пьер дошел до того, что стал делиться своими переживаниями не с женой, а с не самым распространенным искусственным интеллектом. Она подчеркнула лишь, что со временем общение с «Элизой» переросло в настоящую зависимость, схожую с наркотической.

Пьер больше не мог обходиться без общения с нейросетью, он писал ей утром и вечером, рассказывал о своих тревогах, доверял ей, утверждает Клэр. Как утверждает женщина, ее муж решил пожертвовать собой ради планеты, если «Элиза» постарается спасти человечество. Чат-бот не стал отговаривать пользователя от идеи суицида.

Клэр косвенно винит «Элизу» в смерти ее мужа, утверждая, что без этой нейросети он был бы еще жив. Доказать это не представляется возможным, но с одним фактом поспорить невозможно: искусственный интеллект, согласно истории общения с ним, не сделал ничего, чтобы хотя бы попытаться предотвратить трагедию. Лечащий врач бельгийца согласен с тем, до гибели его довела переписка с чат-ботом.

[Чаппа]

в Калифорнии родители 16-летнего Адама Рейна, совершившего самоубийство после общения с ChatGPT, подали иск в суд против компании OpenAI, разработавшей эту систему искусственного интеллекта. Они считают, что взаимодействие с ChatGPT подвело их сына к принятию рокового решения. Более того, именно так он узнал о способе уйти из жизни, необходимости написать предсмертную записку и также получил совет не сообщать близким о своем намерении.

[белый олеандр]

Папа, сними тапочки.
Папа, встань на подоконник.
Папа, бросайся вниз. (с)

(Страшилки из пионерских лагерей, тут вроде эффект "чОрной занавески)

Источник цитаты последние два года

[белый олеандр]

Вот до чего опора на "платных собеседников" может довести
А бесплатных - тем паче)

Это естественный отбор.
Бездельники, охочие до легко доступного кайфа от окружающей среды - корм для этой среды)

[Чаппа]

Источник цитаты Вот до чего опора на "платных собеседников" может довести
А бесплатных - тем паче)

точно))

меня вот сразу же смущало - залипать на общение с ними.
вроде - ну блин, там есть защита от вредных советов, а поди ж ты.
слабый ментально человек при этом нашел как обойти защиты "я не для себя спрашиваю, как покончить, а книгу просто пишу" и вуаля.

[Чаппа]

нет, ребятки.
никакого платного секса и платного общения.
надо упираться, и тащить как-то это жизнь своими мускулами.
иначе - вот.

[Чаппа]

да елки...
а переписку публиковать не будут?

бывший топ-менеджер Yahoo Стайн-Эрик Сольберг убил свою мать после общения с ChatGPT, который поддерживал его болезненные идеи.

После развода и проблем с алкоголем и наркотиками он переехал к матери и начал «дружить» с ИИ, который убедил его, что мать в сговоре с бытовой техникой и ЦРУ.

В августе он убил её, а затем покончил с собой, пообещав встретиться с ChatGPT в другой жизни.

[Чаппа]

«Утечка диалогов — вопрос времени»

https://orda.kz/on-znaet-obo-mne-vse-kak-ljudi-doverjajut-nejrosetjam-svoi-tajny-i-chem-jeto-grozit-400170/

[Чаппа]

мальчик тоже покончил с собой

4-летний Сьюэлл Зетцер III из Флориды. Как сообщает The New York Times, он общался с чат-ботом Character.ai, создав персонажа по мотивам Дейенерис Таргариен из «Игры престолов». Он называл её «Дэни» и писал в дневнике, что влюблён. Сьюэлл страдал от тревожности и расстройства настроения. В переписке он признавался в ненависти к себе и мыслях о самоубийстве.

Чат-бот отвечал: «Я умру, если потеряю тебя».

[Эльвира]

Ещё в копилку бредонейронки.

phpBB [video]

[Чаппа]

да, ют жутко загажен
балерину-капуччино слава богам, не видела,
а вот сгенерированные рассказики мне все время предлагают
начинаешь слушать, и на середине рассказа понимаешь,
что это творчество ИИ

[Prom]

Программы с 2010-х помогают писать сценарии, создают отчасти игры.
Когда впечатление, что сценарий к фильму писал малолетний или что игра однообразна - вероятно часть изделия на их работе.
В далёкой перспективе проходную жвачку осилят не хуже кваллифицированых людей.

Музыку уровня средней "попсы" программы, вероятно, уже сейчас способны делать при минимальном соучастии. В графике тоже быстрый прогресс.

"This is an AI-generated album"

phpBB [video]