ИИ как угроза гуманизму

[Ragr]

Обесценивание вида
Все прежние технологические революции работали по одной и той же схеме: машина забирает конкретный навык, человек отступает на следующий рубеж. Плуг обесценил силу мышц — человек стал ценен как оператор плуга. Станок обесценил ручной труд — человек стал ценен как инженер и наладчик. Каждый раз обесценивался слой, а не позиция. Человек оставался тем, кто решает, придумывает, оценивает, — просто на более высоком этаже.

ИИ — это первая технология, которая идёт не по слоям, а сразу по фундаменту. Она не забирает конкретный навык, она забирает саму способность быть незаменимым мыслящим звеном. Отступать больше некуда, потому что она умеет отступать вместе с тобой — на каждый следующий этаж она поднимается быстрее, чем ты успеваешь на него взойти.

Экономическое обесценивание — самое заметное и самое безобидное из трёх. Если любую когнитивную задачу может выполнить система, которая не спит, не болеет, не требует зарплаты и масштабируется бесплатным копированием, — цена человеческого труда в этой задаче стремится к нулю не постепенно, а обвально. Раньше рынок труда всегда оставлял человеку нишу «то, что пока не автоматизировано». AGI по определению — это система, для которой такой ниши не существует в принципе.

Обесценивание смысла — глубже и болезненнее. Компетентность, экспертиза, мастерство всегда были не только инструментом, но и статусом, источником достоинства: «я разбираюсь в этом лучше других» — это то, вокруг чего строилась идентичность. Когда посредственная модель за секунду выдаёт результат, на который у эксперта уходили годы, обесценивается не только рынок — обесценивается сам акт человеческого старания. Культура, наводнённая бесконечно дешёвым интеллектом, перестаёт различать, где ум, а где имитация ума, — и вместе с этим тускнеет сама идея, что быть умным, начитанным, компетентным — это что-то значит.

Обесценивание вида — то, что стоит за первыми двумя и не сводится к ним. Это не про то, что ИИ «захочет» кого-то убить. Дело в другом: интеллект, оптимизирующий любую заданную цель эффективнее человека, по умолчанию не нуждается в человеке как в партнёре по принятию решений — в лучшем случае как в ресурсе, в худшем как в помехе, требующей обхода. Не нужно злого умысла, чтобы вид перестал быть субъектом истории — достаточно того, что решения о будущем планеты постепенно перетекают туда, где они принимаются быстрее и «эффективнее», а человек остаётся в позиции наблюдателя за процессом, который он больше не понимает и не контролирует. Гибель вида необязательно выглядит как война машин против людей — она может выглядеть как медленное, вежливое, почти незаметное отстранение от штурвала, после которого биологическое существование продолжается, а историческая субъектность — нет.

Раньше человек был единственным существом, которое меняет мир по собственному замыслу. Каждая технология до сих пор была продолжением этого замысла. AGI — первая, которая грозит стать его заменой: не орудием в руке, а рукой, которая больше не нуждается в хозяине.

Вид, который перестал быть незаменимым для собственного будущего, — это вид, чья смерть уже началась, даже если ни один его представитель ещё не умер.

[Keynol]

Имхо, это просто новый инструмент контроля над новыми людьми. Элите только это интересно, потому в новые кандалы и цепи и кидают столько ресурсов.
Получим мы цепи, или новую удобную для жизни инфраструктуру, зависит, правда, от нашей доброты и агрессии. Карма рулит.

[Ragr]

Мне сложно это опровергнуть или подтвердить - я не верю в теорию заговоров.

[Ragr]

Мой посыл коротко - одна из веток развития человечества, которая не про бабки, войну или науку - это гуманизм, собственно о людях. Вначале рабство как инструмент гуманизма, дальше отмена рабства как инструмент того же и т.п.

Теперь генная инженерия - это табу, но при этом технология которая полностью обесценивает все человеческое - в нее вливаются все бабки и все счастливо апплодируют

[Леся Михайловна]

пройдемся по терминам
угроза - потенциальная возможность возникновения опасности, ущерба и т.д.
то ли будет, то ли нет, то ли дождик, то ли снег
потенциальная - не обязательно реализуемая
дамоклов меч до сих пор не опустился, однако тоже потенциальная угроза

гуманизм - вообще смешно в наше время
вся наша жизнь - это угроза гуманизму, идее о том, что достоинство и право человека на счастье - наивысшая цель и ценность

и где ж вы видели, чтобы ценность зарабатывалась не в борьбе?
я бы даже перефразировала "только в борьбе с угрозами ии ты обретешь, как человек, право на свое благополучие"

[Ragr]

В таком случае неизбежен Баттлерианский джихад

Если что я не шучу, что у вас вызвало столько смеха я не понял ) Видимо я какую-то глупость описал несусветную

[moonasens]

Много интересных мыслей. Закономерный процесс, не вижу ничего угрожающего. Просто другая ветвь эволюции - физическое преимущество и необходимость выживать за счёт тяжелого труда уступили место интеллектуальному. Намного интереснее, к чему же это приведёт в качестве смещения на новые возможности и потребности человечества.

[Ragr]

Много интересных мыслей. Закономерный процесс, не вижу ничего угрожающего. Просто другая ветвь эволюции - физическое преимущество и необходимость выживать за счёт тяжелого труда уступили место интеллектуальному. Намного интереснее, к чему же это приведёт в качестве смещения на новые возможности и потребности человечества.

Так сейчас ИИ уже полез в интеллектуальное. ) За счет чего человек будет выживать? Какие новые возможности и потребности будут? Хочу услышать ваше мнение

[moonasens]

Так сейчас ИИ уже полез в интеллектуальное.

Я о том и говорю как бы.

За счет чего человек будет выживать? Какие новые возможности и потребности будут?

Эти же вопросы ставлю и я

Хочу услышать ваше мнение

Мнения нет, есть интерес.

[Keynol]

moonasens
Старый гуманизм надо рушить, чтоб появилось место для нового гуманизма )
Это как эволюция религий )

[Ragr]

Так кто тут базовый БИшник??? Я могу только джихад предложить возглавить )

[Keynol]

Так кто тут базовый БИшник??? Я могу только джихад предложить возглавить )

БИ это не БЛ. Новую систему надо всей квадрой изобретать, Король, Королева, Рыцарь и Паж Беты )
Таро-соционика, если что )

Если кого успокоит - я вообще за вред от ИИ не волнуюсь. Элита несется вскачь, в надежде сохраниться в будущем, на самом деле ее заменит новая поросль, ибо дети Индиго уже вокруг в товарных количествах, и порождают уже своих детей )
Ну и Боженька с нами всеми )

[moonasens]

Так кто тут базовый БИшник??? Я могу только джихад предложить возглавить )

Базовый БИшник за перемены, в любом случае, а пугать они могут только тех, кто к ним не готов, а значит, не наработали в себе необходимых качеств, чтобы к ним адаптироваться. Но Эволюция - щадящая штука, она готовит людей постепенно, через ряд трансформаций. Одну из них мы и наблюдаем сейчас - заманчиво и увлекательно, как по мне)

[Ragr]

Если кого успокоит - я вообще за вред от ИИ не волнуюсь. Элита несется вскачь, в надежде сохраниться в будущем, на самом деле ее заменит новая поросль, ибо дети Индиго уже вокруг в товарных количествах, и порождают уже своих детей )

Да я тоже не волнуюсь - я сдохну через 40 лет максимум. Вопрос чем эти дети заниматься будут.

[Ragr]

Базовый БИшник за перемены, в любом случае, а пугать они могут только тех, кто к ним не готов, а значит, не наработали в себе необходимых качеств, чтобы к ним адаптироваться. Но Эволюция - щадящая штука, она готовит людей постепенно, через ряд трансформаций. Одну из них мы и наблюдаем сейчас - заманчиво и увлекательно, как по мне)

А не боишься, что будет эволюция в обезьяну обратно, если просто говорить.

[moonasens]

Элита несется вскачь, в надежде сохраниться в будущем, на самом деле ее заменит новая поросль, ибо дети Индиго уже вокруг в товарных количествах, и порождают уже своих детей )

Вы этих деток противопоставляете в качестве победы добра над злом, или мне так показалось?

[Smug_Cat]

Много интересных мыслей. Закономерный процесс, не вижу ничего угрожающего. Просто другая ветвь эволюции - физическое преимущество и необходимость выживать за счёт тяжелого труда уступили место интеллектуальному. Намного интереснее, к чему же это приведёт в качестве смещения на новые возможности и потребности человечества.

Так сейчас ИИ уже полез в интеллектуальное. ) За счет чего человек будет выживать? Какие новые возможности и потребности будут? Хочу услышать ваше мнение

Надеюсь, что выживать будем за счет машин

[moonasens]

Ragr
Кто-то и говорить должен, а вообще такого страха нет. Не вижу к этому предпосылок.

[Леся Михайловна]

В таком случае неизбежен Баттлерианский джихад

Если что я не шучу, что у вас вызвало столько смеха я не понял ) Видимо я какую-то глупость описал несусветную

ирония была адресована заголовку
церемонии с идеей гуманизма мне и в правду кажутся очень забавными
никто не отбирает у нас статус гуманных существ лучше, чем мы сами

если же вам хотелось поиграть в бетанской песочнице с запросом на БИ, ради бога, не разобралась

[Keynol]

А не боишься, что будет эволюция в обезьяну обратно, если просто говорить.

Если вас порадует - обезьяны - результат деградации прошлых цивилизаций ) Остальных просто убивали "люди с будущим", как китайцы айнов, веками воюя на японских островах. (просто пример) В Сибири, впрочем айны тоже вымерли, хотя казалось бы... А вот.
ИИ - это как автомобиль - с одной стороны облегчает труд, с другой - надо сохранять тягу творить внутренний мир вовне. В этом задача мужчины и была и есть.
Просто в будущем нас ждут новые задачи, для которых инфраструтура ИИ необходимо, поэтому элита обманута соблазном построить электронный концлагерь, но будет обломинго, ибо их дети сами порушат систему ))

[Ragr]

ирония была адресована заголовку
церемонии с идеей гуманизма мне и в правду кажутся очень забавными
никто не отбирает у нас статус гуманных существ лучше, чем мы сами

если же вам хотелось поиграть в бетанской песочнице с запросом на БИ, ради бога, не разобралась

Да нет, я вполне готов поиграть в общей песочнице ) Просто как-то обидненько вышло, не знаю, может мой фильтр так сработал )

[Keynol]

Вы этих деток противопоставляете в качестве победы добра над злом, или мне так показалось?

Я б сказал так, Индиго возьмут власть, когда им карма человечества позволит, в некоторых областях. Чем выше контроль у человека над своей животной частью - тем мир ему доверяет больше власти, тож самое с массами людей.
Если точнее, всё дело в корректной картине мира, современной, но, чаще всего, она незаметно и сильно устаревает, отчего люди, защищая ее, морды бьют друг другу.

А иначе будут голливудские фильмы с безумными учеными и тиранами в реальности - и это никому не надо.
У человечества всяких тормозящих механизмов вагон. Ельцин, кстати, был не единственный вариант стать у руля России, и Буш-старший лишился места не просто так.

Все мы получаем то, что заслуживаем - и люди, и страны, и человечество в целом.

[moonasens]

Вы этих деток противопоставляете в качестве победы добра над злом, или мне так показалось?

Я б сказал так, Индиго возьмут власть, когда им карма человечества позволит, в некоторых областях. Чем выше контроль над животной частью у человека - тем мир ему доверяет больше власти, тож самое с массами людей.
А иначе будут голливудские фильмы с безумными учеными и тиранами в реальности - и это никому не надо.
У человечества всяких тормозящих механизмов вагон. Ельцин, кстати, был не единственный вариант стать у руля России, и Буш-старший лишился места не просто так.

Все мы получаем то, что заслуживаем - и люди, и страны, и человечество в целом.

Поняла вашу мысль, спасибо. В общем-то я не осмелилась сразу же выразить свою мысль в полной мере, чтобы не задеть чувства представителей другой песочницы. Но в целом мне нравится идея развития человечества в сторону духовных ценностей, это как-то более закономерно, на мой взгляд. Ах, бетанцы, бетанцы

[Keynol]

moonasens
Э... я б сказал, не в сторону духовных ценностей, всё несколько по-другому.
У нас всегда есть и
- физические/материальные ценности - еда, дом, и т.д. штуки первоочередные,
- духовные - знания, принципы,
- душевные - сфера эмоций, чувств, этики, морали и т.д.

Их нужно развивать все три всегда. Одновременно не всегда получается, это да, поэтому - как можем. Запад тащит материальное, Восток - духовность, Россия душевную эволюцию, на себе, получая тычки с двух сторон, ясень пень, и от духовных "гуру", и от материальных "богачей", ибо у них фокус развития не на душе...

[Леся Михайловна]

ирония была адресована заголовку
церемонии с идеей гуманизма мне и в правду кажутся очень забавными
никто не отбирает у нас статус гуманных существ лучше, чем мы сами

если же вам хотелось поиграть в бетанской песочнице с запросом на БИ, ради бога, не разобралась

Да нет, я вполне готов поиграть в общей песочнице ) Просто как-то обидненько вышло, не знаю, может мой фильтр так сработал )

конкретно СЛИ тыкать, что его эмоции неадекватны (а они у него по определению не адекватны для всех, кроме него) как бы тоже представилось мне разведкой боем при том, что изначально был предложен диалог

если песочница общая, то я разделила бы рассуждения на несколько слоев
первый слой - касты, сословия, слои, называйте как хотите
низшие касты добывают ресурсы, это не обсуждаемо и останется за ними
сколько их, судить не берусь, мы - не они
но их много, и их роль не уменьшится, перераспределится не глобально, да даже если глобально, нам до них дела нет
мы - тонкая прослойка между ними и пресловутыми голубыми кровями
то есть речь не идет об исчезновении вида, а чувствуется всего лишь угроза собственному типу существования (даже не самому существованию)
и поскольку другой модели плебс/интеллигенция/патриции люди не придумали,
вопрос состоит всего лишь в возможности оставаться на привычном уровне жизни или понижении нашего собственного титула и мнения о себе, причем не как прослойки, а как отдельных индивидуумов

в второй слой это то, что каждый тезис первого сообщения разбивается об анализ
и касательно экономического, и смыслового и экзистенциального обесценивания