Скайнет уже здесь: ИИ сыграл в ядерную войну
В феврале сего года профессор Пейн из Королевского колледжа Лондона провел пугающий эксперимент: он усадил за стол переговоров три ведущие западные нейросети. Это были чат GPT, Claude Sonnet и Gemini от Google.
Модели играли роли лидеров ядерных держав.У них была "лестница эскалации" из 30 шагов: от дипломатических нот до полномасштабной ядерной войны. И вот они сыграли в несколько дясятков раз в покер в ядерном клубе.
В 95% симуляций хотя бы одна из сторон применила ядерное оружие! Причем все вышло, как мы видим сейчас в реальности: ни одна из моделей ни разу не выбрала капитуляцию. Все бодались "до талого".
ИИ относился к тактическому ядерному оружию просто как к "еще одной ступени эскалации", у него не было "ядерного табу", присущего людям. Очень занятно, что модели активно пудрили искуственный мозг своего противника, вели психологическую игру и использовали "туман войны".
Все звучит, как сценарий "Терминатора", где Скайнет приходит к выводу, что человечество - угроза. И запускает ядерные ракеты. Разница лишь в том, что в симуляции Лондона ИИ не объявлял людей врагами. Пока не объявлял. Он просто хладнокровно просчитывал - если противник не уступает, значит, нужно бить первым. Ни паники, ни моральных терзаний - чистая математика. Нажми на кнопку - получишь результат.
Если посмотреть на украинскую войну - да любой "рациональный" ИИ давно бы применил ядерное оружие, просчитав "лестницу эскалации", которую смоделировал Лондон - все эти подлянки, атаки на танкеры, "война до последнего украинца", теракты. У людей пока просто есть тормоза, которых нет у машин. Но если учить ИИ воевать на наших ошибках, он быстро поймет: единственный способ не проиграть - сделать так, чтобы проиграли все. А так в реальности все пока держится на натянутых человеческих нервах. Но они ведь не железные.
С. Шилов
