(no subject)

[iramyra]

Wyborcza сообщает, что ChatGPT глупеет:
Самым ярким примером является способность GPT-4 определять простые числа - в марте программа отвечала с точностью 97,6%, а через три месяца было всего лишь 2,4% правильных ответов. <...> Все большее количество материалов в Интернете создается с помощью искусственного интеллекта, а это значит, что GPT учится на текстах, в создании которых он сам принимал участие. Таким образом, обучение происходит в постоянно сужающемся кругу, что приводит к постепенному регрессу.

Comments

[penetrat0r.livejournal.com]

А я уж подумал, что архивы Одноклассников в обучающую базу данных включили :)

[iramyra]

Этого тоже нельзя исключить :))

[sova-f.livejournal.com]

Но как, Холмс? Простые числа — это простые числа. Уж какой для них нужен интеллект?

[keytaro-kun.livejournal.com]

Особенность работы нейросетей, они ориентируются не на логикеу, а на выделение закономерностей из огромного объема входных данных. Если на вход загрузить горы мусора, то нейросеть и закономерности выделит мусорные.

[iramyra]

Вот тоже удивилась.

[keytaro-kun.livejournal.com]

Вот потому я и пользуюсь в работе исключительно GPT-3.5. Бесплатно и учебную выборку не меняли уже больше года. Иногда, впрочем, нейросеть трогательно извиняется, что ее данные, видимо, устарели.

[iramyra]

Ага, интересно!

[just-tom.livejournal.com]

Я несколько месяцев назад читал об этой опасности как потенциальной. Удивительно, что это коснулось такой узкоспециализированной области. А мне как раз недавно один наш молодой сотрудник рассказывал, как он собирается переложить на GPT очень трудоёмкую часть анализа данных. При этом GPT должен большую часть этих данных сам добывать.Я довольно плохо разбираюсь в том, как работает ИИ, хотя не так давно выпил много вина за беседами со специалистом, но мне кажется, что он не будет правильно работать без вмешательства в его функционирование, добавления алгоритмов, например, заточенных на поиск информации и проверку её качества. И когда будут хорошо изучены и известны его недостатки — т.е. где его можно использовать, а где — нет. Всё-таки он не человеческий интеллект и не человеческие мозги. Статья это подтверждает.

[iramyra]

Интересно, как это всё разовьётся...