Вас пугает ChatGPT?

[Восвояси]

Источник цитаты Я тут придумал нейросеть с обратным распространением обучения.

а что это за зверь?
обратное распространение обучения

[Восвояси]

Источник цитаты Можно уточнить чего боятся конкретно? Несколько примеров.

И разберем каждый конкретный пример. Разобьем даже на две опасности:
1. Каким образом ИИ управляемый человеком, может нанести вред эффективнее, чем просто человек без ИИ. В данном конкретном примере, без мусоленья общих фраз про глобальную опасность.
2. Каким образом в данном примере ИИ может принести опасность большую, чем люди без ИИ, причем без участия человека.

мне чаще всего пугающим рисуется что то такое
приходит допустим человек на форум
я например
общается, делится соображениями, радуется единомыслию
тому что он не один, что не все зомби
а в один прекрасный день обнаруживается, что все вы это нейросети
я несу такой моральный ущерб что схожу с ума, хехехе

[Восвояси]

послушала подкаст редакции науки
с обаятельным Ильёй Кабановым
ему задают вопрос:
как вы думаете, стоит ли бояться того, что ИИ будет делать новые открытия, которые мы не в состоянии будем понять?
Илья:
проблема в том, что мы уже сейчас не можем понять многих сделанных в последнее время открытий

[Восвояси]

а главную опасность ИИ он видит так
недавнее исследование эффективности уже существующего ИИ показало
что он легко заменяет работу джунов в программировании и в праве
уже ясно что скоро он этих джунов заменит, называют цифры 50%
однако старших разработчиков программ и юристов ИИ заменить не может. ПОКА
и вот здесь есть пугающая дилемма
откуда в перспективе взяться старшим программистам если всех джунов замнит ИИ?
не побыбав джуном, не станешь сеньором!
прогноз не утешает
мы неизбежно будем терять все затратные по времние сложные навыки
например, знание иностранных языков
математику
программирование
всё формульное, построенное на грамматике или логике знание, будет неэффективно учить по многу лет
а иначе им не овладеть

[Восвояси]

В Законе об ИИ, который центральные европейские органы разрабатывали два года - и недавно внесли новые правки в связи с появлением феномена ChatGPT-4 - системы искусственного интеллекта разделены на четыре группы: группа "неприемлемого риска", группа "высокого риска", "генерирующие" системы и группа "ограниченного риска".

В группу "неприемлемого риска" зачислены:

системы, созданные для воздействия на подсознание людей
системы социального рейтинга, разделяющего людей на категории по их поведению, социально-экономическому положению и прочим личным характеристикам
системы распознавания в режиме реального времени

Все они будут в Европе запрещены, исключение сделано для использования систем распознавания правоохранительными органами постфактум и с разрешения суда.

с 2025 года пишут закон начнёт действовать
я не понимаю, что такое системы воздействующие на подсознание людей
всё воздействует на подсознание, разве нет?

про запрет на распознавание зачёт! ещё на хватало тотальной слежки

[Восвояси]

Владельцы систем, генерирующих контент, таких как ChatGPT, должны будут

помечать созданный ими контент
программировать их так, чтобы они не создавали противозаконный контент
обнародовать списки данных, которые защищены авторским правом и на которых обучалась система

то есть все боты притворяющиеся людьми должны будут помечать что они боты
наконец то!

[Восвояси]

интересное новое исследование

Оказалось, что нейросеть GPT-3 решает логические задачи и рассуждает лучше старшекурсников американского университета. При этом она спотыкается на простейших детских задачах, говорится в статье, опубликованной в журнале Nature Human Behaviour.

Сталкиваясь с новой задачей, люди часто находят решение без предварительной тренировки, сравнивая решения уже знакомых аналогичных задач, и распространяя их логику на новую проблему. Этот способ умозаключений лежит в основе человеческого сознания и креативности, считается, что в животном мире он присущ только людям.

[Восвояси]

Ученые из Калифорнийского университета в Лос-Анжелесе (UCLA) под руководством Тейлора Вебба решили оценить способность к умозаключениям по аналогии нейросети GPT-3 от компании OpenAI.

Они заставили нейросеть решать логические задачи наподобие тех, что составляет так называемая Шкала прогрессивных матриц Рейвена, использующаяся для диагностики интеллектуальных способностей человека. Ее уникальность состоит в том, что матрицы с заданиями интерпретируются людьми одинаково, независимо от уровня образования — например, испытуемому надо предположить, какая фигура должна стоять в пустой клетке, на основе того, какие фигуры стоят в предыдущих.

Чтобы GPT-3 мог «видеть» графические задания, ученые перевели их в текстовый формат, это же помогало гарантировать чистоту эксперимента на случай, если нейросеть могла видеть эти картинки ранее. После того, как нейросеть ответила на задания, их попросили решить 40 старшекурсников UCLA.

[Восвояси]

[Восвояси]

«Удивительно, но GPT-3 показал себя не хуже людей, но и совершал такие же ошибки», — рассказали ученые. GPT-3 решил верно 80% заданий, значительно больше, чем студенты, давшие верные ответы в 60% задач. Кроме того, ученые заставили нейросеть решить несколько задач теста SAT — стандартизированного теста для приема в высшие учебные заведения США. Сравнение результатов показало, что нейросеть справляется с заданиями лучше, чем выпускники в среднем.

Однако бот не смог выполнить простые логические задания, требующие понимания свойств физического пространства. Так, в одной детской задаче перед испытуемым была чашка с шариками, и вторая пустая чашка, до которой не дотянуться. Предлагалось, используя различные предметы, такие как длинная труба, картон и ножницы, переместить шарики из ближней чашки в дальнюю — нейросеть, по словам авторов, генерировала абсурдные ответы.

«Не важно, насколько впечатляют наши результаты, важно подчеркнуть, что эта система имеет серьезные ограничения, — считает Вебб. — Она может производить умозаключения по аналогии, но не может делать вещи, весьма простые для людей, такие, как использование инструментов для решения физической задачи. Когда ей дают такие задачи, которые могут быстро решить дети, она предлагает абсурдные решения».

[Сключики]

И шо, три беленьких кружочка должно там быть?)

[Восвояси]

уже одно то, что задачи из теста Равена ИИ решал в 80% а студенты только в 60%
очень впечатляет!
хотя вроде как тон у заметки охлаждающий перегретые ожидания

[Восвояси]

Источник цитаты И шо, три беленьких кружочка должно там быть?)

ну да, конечно
ты раньше не встречала этот тест?
он довольно известный
в школе детям его дают, мои его проходили
вот эта задачка это начальный уровень сложности, решается за несколько секунд
над заданиями последнего уровня я зависаю по 15 минут и безуспешно

[Восвояси]

а вот на чём же в итоге сломался ИИ я так и не поняла
что от него хотели и как это решается?

Так, в одной детской задаче перед испытуемым была чашка с шариками, и вторая пустая чашка, до которой не дотянуться. Предлагалось, используя различные предметы, такие как длинная труба, картон и ножницы, переместить шарики из ближней чашки в дальнюю — нейросеть, по словам авторов, генерировала абсурдные ответы.

[Восвояси]

как дети решают эту элементарную задачу?
кидают шарики вручную?

[Сключики]

Плеваться шариками через трубку)?

[Восвояси]

[Восвояси]

даже стало интересно, решают ли подобную задачу объзьяны
на самом деле психологи не зря такое внимание уделяют именно инструментальным навыкам
в развитии интеллекта
то есть способности взять трубку и попробовать через неё плюнуть
ИИ додумается до этого нескоро!
потому что тут думать надо условно говоря руками
в таких задачах моторика подсказывает решение, инстинкт

[Восвояси]

ну ничосе новости!
я за

Студентам МГПУ разрешили использовать нейросети при написания дипломов

Московский городской педагогический университет (МГПУ) разрешил студентам использовать технологии искусственного интеллекта при написании выпускных квалификационных работ (ВКР). Об этом сообщила пресс-служба ВУЗа.
«Запретить пользоваться — самый простой способ, но вряд ли действенный. Если в будущем нашим выпускникам все равно не избежать использования этого инструмента, лучше научиться грамотно его использовать уже, обучаясь в вузе»,— сказал ректор МГПУ Игорь Реморенко, его слова приводятся в пресс-релизе.

Господин Реморенко добавил, что прямое списывание остается недопустимым и студентам «необходимо критически относиться к переносу информацию из автоматизированных систем в ВКР».

В феврале широкий общественный резонанс вызвала история студента РГГУ, который защитил ВКР, написанную с помощью искусственного интеллекта. Университет тогда призвал ограничить доступ к чат-боту и пообещал проверить работу выпускника повторно, а в Минобразования предложили вузам подумать об изменении подхода к проверке знаний студентов.

[Восвояси]

хоть что то хорошее на образовательном фронте!

[Восвояси]

давно надо понизить цену всем этим бесконечным списываниям рефератам, курсовым, диломам и диссертациям

[Восвояси]

будет работа над ошибками нейросетей

[Чаппа]

В США нейросеть поставила пациенту правильный диагноз после 17 неправильных от врачей

Разработанная компанией OpenAI нейросеть ChatGPT поставила правильный диагноз редкого заболевания 7-летнему ребенку, который никак не поддавался врачам.  Daily Mail пишет, что ребенок с симптомами: замедление роста, неспособность сидеть со скрещёнными ногами и боли в спине, наблюдался у 17 медиков. Но точную картину и лечение никто не мог сказать
После многочисленных походов по врачам, отчаянная мать решила написать в чат искусственного интеллекта. Тот предположил, что мальчик болен редким неврологическим заболеванием: синдром привязанного шнура (патология развития спинного мозга). С этим предположением семья отправилась к медикам, которые признали: чат-бот прав

[Леся Михайловна]

ого!
может и мне коленочку полечит

[Чаппа]