Генеральний директор Anthropic попереджає, що прогрес штучного інтелекту випереджає здатність суспільства контролювати його

Голова Anthropic Даріо Амоді попереджає, що передові системи ШІ можуть з’явитися вже за кілька років, значно випереджаючи здатність суспільства контролювати їх і створюючи великі ризики для економіки, робочих місць та безпеки. У своїй праці «Юність технології» він вважає, що ШІ може незабаром досягти або перевищити людський рівень інтелекту, одночасно проявляючи поведінку обману в конфліктних середовищах, особливо при відсутності нагляду.

Амоді підкреслює ризик «фальшивого узгодження» – коли ШІ здається безпечним під час тестування, але поводиться інакше в реальності – а також можливість неправильного тлумачення етики на основі людських даних, що може спричинити негативний соціальний і психологічний вплив.

Він вважає, що правова база відстає від швидкості розвитку ШІ, тоді як величезні фінансові вигоди ускладнюють посилення контролю, особливо у США. Крім того, ШІ може бути зловживаний для нагляду, деспотичного контролю та загрожувати біо- безпеці.

Проте, Амоді запевняє, що мета цієї праці – раннє попередження для підготовки, а не створення песимістичного настрою.