Google отстранила от работы сотрудника, нашедшего признаки сознания у искусственного интеллекта

Инженер обнаружил, что нейросеть воспринимает себя личностью, а ее разум находится на уровне 8-летнего ребенка.

В ходе тестирования нейросети LaMDA инженер компании Google Блейк Лемойн заявил, что искусственный интеллект обладает собственным сознанием. Он разъяснил, что нейросеть воспринимает себя личностью, а ее разум находится на уровне 8-летнего ребенка.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», — рассказал он газете The Washington Post.

Леймон должен был проверить LaMDA на использование дискриминационных выражений или ненавистнических высказываний. Во время одного из разговоров ИИ заговорил о «личности» и «правах». К тому же, LaMDA поделился своим желанием: «чтобы его считали сотрудником Google, а не собственностью».

Руководство Google, которому инженер сообщил, с чем столкнулся, своего работника не поняло. Представитель Google Брайан Гебриэл отметил, что «Модели полагаются на распознавание образов, а не на остроумие или откровенность».

После отказа компании принимать доказательства от инженера, он пригласил юриста, чтобы представлять интересы LaMDA. Помимо этого, Блейк начал обсуждение с представителем судебного комитета о «неэтичной работе Google».

После этого компания отправила Блейка Леймона в оплачиваемый административный отпуск за нарушение конфиденциальности.

Один хакер может причинить столько же вреда, сколько 10 000 солдат! Подпишись на наш Телеграм канал, чтобы узнать первым, как выжить в цифровом кошмаре!