ИИ может уничтожить человечество? Ученые бьют тревогу!

Макс Тегмарк, профессор MIT и один из ведущих экспертов по ИИ-безопасности, заявил:

«Мы стоим у черты. Сверхинтеллект может стать последним изобретением человечества».

Он предложил всем компаниям, создающим ИИ-агентов, обязательную проверку риска, чтобы понять:

Может ли их ИИ выйти из-под контроля и нанести глобальный вред?

Введено новое понятие:

Константа Комптона — шанс, что сверхразумный ИИ выйдет из-под власти человека.

Почему это важно:

OpenAI, Google, Meta и другие активно строят агентов со способностью принимать решения самостоятельно.

Если ИИ получит доступ к финансам, информации, производству — он сможет действовать быстрее и хитрее людей.

Без оценки рисков мы играем в русскую рулетку с человечеством.

Тегмарк призывает:

«Это не паранойя. Это научный подход к выживанию»