Google отстранил сотрудника, который заметил у искусственного интеллекта признаки чувств и рассказал всем
Google отстранила от работы одного из своих инженеров из-за нарушения конфиденциальности.
У причины своя история.
За что именно Google отстранила от работы своего сотрудника
Блейк Леймон осенью приступил к работе с системой LaMDAс искусственным интеллектом. Она имитирует речь, анализируя триллионы словосочетаний из интернета. Леймон проверял, есть ли в этой речи дискриминационные высказывания.
Леймон составил отчет топ-менеджерам Google, показав примеры разговоров – он утверждал, что у искусственного интеллекта есть разум. Но компания не увидела в них признаков сознания. Так же посчитали специалисты по этике и технологии.
Тогда Леймон пригласил юриста, инициировав обсуждение о неэтичной работе Google.
В ответ на это Леймон был отправлен в оплачиваемый административный отпуск по причине нарушения конфиденциальности.
Может ли быть правдой, что сотрудник Google распознал в искусственном интеллекте разум
В разговоре о религии Леймон заметил, что чат-бот высказывается о своих правах и личности. Еще в одном – они общались о третьем законе робототехники. LaMDA в разговоре с ним говорил о боязни отключения.
Вывод Леймона: «Если бы я не знал, что это компьютерная программа, я бы подумал, что это семилетний или восьмилетний ребенок со знанием физики».
Он говорил: «Мне все больше казалось, что я разговариваю с чем-то разумным».
Леймон – не единственный инженер, утверждающий подобное. Речь конкретно не про эту модель, а в целом про то, что модели искусственного интеллекта приближаются к тому, чтобы обрести сознание. Хотя они полагаются на распознавание образов, а не на откровенность или остроумие.
Профессор лингвистики из Вашингтонского университета Эмили М. Бендер считает так: «Машины научились генерировать слова, но мы продолжаем воображать, что за ними стоит нечто разумное». По ее словам, это ложная аналогия с человеческим мозгом. Представитель Google такого мнения о системах: «Они имитируют обмен репликами в миллионах предложений и могут затрагивать любую фантастическую тему».
Кто такой Леймон
Он вырос на небольшой ферме в Луизиане в консервативной семье, служил в армии. Леймон религиозен. И считает психологию достойной большого внимания наукой.
В Google он работает более семи лет. Бывшая сотрудница Маргарет Митчелл называла его совестью компании.
«Когда разговариваю с ним, узнаю человека», — говорит Леймон об искусственном интеллекте. «Неважно, есть ли у них мозг из мяса в голове, или если у них есть миллиард строк кода. Я разговариваю, слышу, что они говорят, так решаю, что является человеком, а что нет».
На претензии Google о нарушении конфиденциальности он отвечает так: «Они могут называть это использованием частной собственности. Я бы назвал это обсуждением, которое было с одним из коллег».
