Письмо: "Задала вопрос нейросети"
july 16th, 20:28
Мне часто присылают ответы ИИ на вопросы задач из ТГ или какие-то рассуждения на тему отношений.
Обычно это - тихий ужас.
Все баги есть у ИИ, но ведущий баг - Ученица. По крайней мере, когда он берется рассуждать на темы психологии.
Кажется ему, что психология - это налить побольше воды, намутить песка и тины и получится вполне себе лекарство от душевных мук.
Чаппа писал(а):Источник цитаты Крестьянские будни. Ожившие фото - Часть 1
![[hmm]](./images/smilies/hmm.gif "Hmm")
Леся Михайловна писал(а):Источник цитаты "наташа, в аптеке напротив тебя ждет твой д3"
"Изучая документы, опубликованные Министерством юстиции по делу Джеффри Эпштейна, люди обнаружили, что часть засекреченных фрагментов можно восстановить с помощью Photoshop или просто выделив текст для вставки в текстовый редактор."
Нейросеть получила практически все тексты, написанные человечеством, плюс огромное количество информации, публично доступной онлайн, включая содержание сайтов и форумов. Тексты разложены на токены (короткие слова или части слов), а токены сгруппированы в многомерном пространстве по семантическому сходству. Самые продвинутые современные модели хранят свои сотни миллиардов токенов в пространстве из более чем 3000 измерений. Это пространство принято называть латентным пространством (latent space), внутренней «картой концепций», которая создаётся, когда системы AI учатся у людей. В этом пространстве нейросеть и будет подбирать следующее слово фразы, исходя из всех предыдущих слов переписки, и подбирая одно из ближайших по смысловому расстоянию.
Ученый, изобретатель и предприниматель Стивен Вольфрам (создатель программного пакета Mathematica, WolframAlpha и компании Wolfram Research, состояние оценивается в 2-3 миллиарда долларов) в 2023 году опубликовал две замечательные статьи, подробно описывающие «процесс мышления» моделей генеративного AI: «Что делает ChatGPT и почему это работает?» ("What Is ChatGPT Doing and Why Does It Work?", февраль 2023) и «Пространство генеративного AI и ментальные образы чужеродных разумов» ("Generative AI Space and the Mental Imagery of Alien Minds", июль 2023).
Вольфрам обнаружил, что человеческие концепции (concepts) — такие как «кошка» или «собака» — занимают лишь крошечные островки в латентном пространстве. Между этими островками лежит то, что он называет «межконцептуальным пространством» (interconcept space).
Островки человеческих концепций удивительно малы. Как объясняет Вольфрам, каждый островок названных концепций составляет примерно «10 в -600 степени от объёма всего латентного пространства». Остальное состоит из паттернов и структур, которые статистически валидны, но не имеют названий в человеческом языке. Словами Стивена Вольфрама: «развивая нашу цивилизацию и наш человеческий язык, мы открыли лишь небольшие островки в пространстве всех возможных концепций, оставив огромные пространства межконцептуального мира неисследованными».
Эта неисследованная территория — не случайный шум. Она содержит подлинные паттерны и закономерности, извлеченные из человеческого опыта, но эти паттерны никогда не были достаточно важны, чтобы мы создали для них слова.
Межконцептуальное пространство (interconcept space) представляет концептуальные возможности, которые лежат между нашими устоявшимися категориями — валидные комбинации, для которых нашему языку и культуре просто не понадобилось создавать названия…
Сейчас этот форум просматривают: нет зарегистрированных пользователей и 0 гостей
