На сайте Phys.org размещена статья "Researchers say AI emergent abilities are just a 'mirage'".

Кажется, нет конца предсказаниям грозовых туч, когда компьютеры в конце концов решат взять дело в свои руки (или, лучше сказать, в свои собственные процессоры).

«Развитие искусственного интеллекта может означать конец человеческой расы», — предупреждал Стивен Хокинг.

«[ИИ] чертовски пугает меня. Он способен на гораздо большее, чем кто-либо знает, и скорость его улучшения экспоненциальна», — сказал Илон Маск.

Технологии искусственного интеллекта (ИИ) представляют «серьезные риски для общества и человечества», согласно письму, подписанному ранее в этом году более чем 1000 технологических лидеров. В нем содержится призыв ввести мораторий на исследования в области ИИ, пока не будет получено больше информации о потенциальных рисках.

Не игнорируя обещание огромной пользы, которую ИИ принесет в широкий спектр секторов промышленности, экономики, образования, науки, сельского хозяйства, медицины и исследований, сообщения средств массовой информации все чаще бьют тревогу по поводу непредвиденных последствий этой бурно развивающейся прорывной технологии. Одной из проблемных областей является "эмерджентное" поведение, определяемое как ряд непредвиденных, незапрограммированных взаимодействий внутри системы, происходящих из более простого запрограммированного поведения отдельных частей. Исследователи говорят, что признаки такого поведения можно увидеть в моделях, самостоятельно изучающих языки, обученных играть в шахматы и го. Они вырабатывают оригинальные стратегии для продвижения вперед. И когда роботы демонстрируют вариативность моделей движения, которые изначально не были запрограммированы.

«Несмотря на то, что я пытаюсь ожидать сюрпризов, я удивлен тем, на что способны эти модели», — сказал ученый из Google Итан Дайер, отвечая на эксперимент с искусственным интеллектом, в котором компьютер неожиданно самостоятельно вычислил название фильма на основе строки смайликов.

Однако авторы статьи, опубликованной на прошлой неделе в arXiv, заявляют, что доказательства эмерджентного поведения основаны на статистических данных, которые, вероятно, были неверно истолкованы. Они объясняют, что возможности больших языковых моделей измеряются путем определения процента их правильных предсказаний.

Статистический анализ может быть представлен множеством способов. Исследователи утверждают, что когда результаты представляются в виде нелинейных или прерывистых показателей, они показывают резкие, непредсказуемые изменения, которые ошибочно интерпретируются как индикаторы возникающего поведения. Однако альтернативный способ измерения идентичных данных с использованием линейных метрик показывает «плавные, непрерывные» изменения, которые, в отличие от предыдущей меры, демонстрируют предсказуемое поведение. Неспособность использовать достаточно большие выборки также способствует ошибочным выводам.

«Существующие заявления о возникающих способностях — это результаты анализа исследователя, а не фундаментальные изменения в поведении модели при выполнении конкретных задач», — заявила команда.

«Основной вывод, — говорят исследователи, — заключается в том, что для фиксированной задачи и семейства фиксированных моделей исследователь может выбрать показатель для создания возникающей способности или выбрать показатель для устранения возникающей способности».

Или, как заявил один известный комментатор: «Результаты алгоритма настолько хороши, насколько хороши параметры, установленные его создателями, а это означает, что внутри самого ИИ есть место для потенциальной предвзятости».

И кто был этот известный комментатор? ChatGPT от Microsoft Bing...

Дополнительная информация: R.Schaeffer et al. Are Emergent Abilities of Large Language Models a Mirage?, arXiv (2023). DOI: 10.48550/arxiv.2304.15004