Anthropic: ИИ может уничтожить человечество с вероятностью 10%

В ближайшем десятилетии искусственный интеллект может стать причиной уничтожения человечества, сообщил в социальной сети Х руководитель направления стресс-тестирования согласованности ИИ в американской компании Anthropic Эван Хьюбингер. По словам Хьюбингера, вероятность такого развития событий составляет 10%.

Данное заявление стало его реакцией на увольнение Джейкоба Коксона, одного из исследователей компании Anthropic. Коксон решил покинуть индустрию ИИ, опасаясь, что соперничество технологических корпораций приведет мир к «точке невозврата» и может спровоцировать глобальную катастрофу к концу 2027 года.

«Джейкоб прав в своих опасениях. Мы искренне верим, что ИИ способен уничтожить всё человечество! Я лично полагаю, что вероятность этого составляет более 10% в ближайшие десять лет», — сообщил Хьюбингер.

Особое беспокойство вызывает ситуация с «суперинтеллектами», которые формируются вследствие повторного самосовершенствования. Это происходит быстрее, чем предполагалось ранее.

Развитие искусственного интеллекта может угрожать цивилизации не из-за восстания роботов или машин-убийц, а из-за снижения налоговых поступлений от доходов физических лиц в государственные бюджеты, как сообщает Telegram-канал «Радиоточка НСН».