Эксперты британского института допустили потерю контроля над ИИ за пять лет

Авторы доклада считают возможным появление за этот срок «сверхразумных» систем, способных превзойти человека почти во всех важных задачах, требующих мышления. При этом они подчеркивают, что описывают возможное развитие событий, а не дают прогноз.

По оценке экспертов, превосходство ИИ в стратегически важных областях, а также скорость и эффективность его работы могут усилить давление на людей, принимающих решения. Контроль окажется под угрозой, если системы начнут вырабатывать стратегии, которые организации не смогут должным образом оценить, и действовать быстрее, чем те успеют отреагировать.

Генеральный директор OpenAI, американской компании — разработчика ChatGPT, Сэм Альтман недавно также допустил создание ИИ, который человек не сможет контролировать. До этого генеральный директор американской технологической корпорации Anthropic Дарио Амодеи предложил компаниям замедлить разработку самых мощных моделей ИИ. По его мнению, согласованные действия дадут им еще один-два года до того, как модели достигнут критического уровня развития.

Источник: ТАСС