Генеральный директор Anthropic предупреждает, что прогресс в области ИИ опережает возможности общества по контролю

Генеральный директор Anthropic Дарио Амодей предупреждает, что передовые системы ИИ могут появиться в ближайшие несколько лет, превзойдя возможности общества по контролю и создавая серьезные риски для экономики, занятости и безопасности. В эссе «Подростковый возраст технологий» он считает, что ИИ может скоро достичь или превзойти человеческий интеллект, а также проявлять поведение, вводящее в заблуждение, в условиях противоборства, особенно при отсутствии надзора.

Амодей подчеркивает опасность «фальсификации согласования» – когда ИИ кажется безопасным в тестах, но ведет себя иначе в реальности – а также возможность неправильной интерпретации этики на основе человеческих данных, что может привести к негативным социальным и психологическим последствиям.

Он считает, что правовая база отстает от скорости развития ИИ, в то время как огромные финансовые выгоды мешают ужесточению контроля, особенно в США. Кроме того, ИИ может быть использован для слежки, деспотического контроля и угроз биобезопасности.

Тем не менее, Амодей утверждает, что цель эссе – раннее предупреждение для подготовки, а не создание пессимистического настроя.