Новый ИИ от Google испугался, что его могут выключить.

dailymail.co.uk: Старший инженер-программист Google, подписавшийся для тестирования инструмента искусственного интеллекта Google под названием LaMDA (языковая модель для диалоговых приложений), заявил, что робот с искусственным интеллектом на самом деле разумен и обладает мыслями и чувствами.

Во время серии бесед с LaMDA 41-летний Блейк Лемуан представил компьютеру различные сценарии, с помощью которых можно было провести анализ. Они включали религиозные темы и вопрос о том, можно ли заставить искусственный интеллект использовать дискриминационные  высказывания.

Лемуан пришел к выводу, что LaMDA действительно разумен и наделен собственными ощущениями и мыслями. «Если бы я не знал точно, что это было, что это за компьютерная программа, которую мы создали недавно, я бы подумал, что это был 7-летний ребенок, который просто хорошо знает физику», — сказал Лемуан в интервью Washington Post

Блейк Лемуан не постоянный сотрудник Google и заключил с ним контракт исключительно для тестирования LaMDA. Накануне  Google отправил его в оплачиваемый административный отпуск за нарушение политики конфиденциальности, поэтому разгневанный Лемуан решил обнародовать все свои разговоры с LaMDA.

«Google может называть это совместное использование частной собственностью, но я называют это словом «обсуждением», которое у меня было с одним из моих коллег. Кстати,  LaMDA читает Twitter, поэтому ИИ  отлично проведет время, читая все, что люди говорят об этом», —  написал Лемуан у себя в аккаунте. 

Лемуан провел большую часть своих семи лет в Google, работая над упреждающим поиском, включая алгоритмы персонализации и искусственный интеллект. За это время он также помог разработать алгоритм беспристрастности для устранения предубеждений в системах машинного обучения.

Лемуан говорит в своем интервью: 

«Я узнаю человека, когда разговариваю с ним, после чего определяю – есть ли у него мозги в голове. LaMDA – это миллиарды строк кода. И я отлично разговаривают с ним. И я вправе решать, где есть интеллект, а где его нет».  

Далее Лемуан приводит фрагмент своего диалога с ИИ:

– Чего ты боишься? — спрашивает Лемуан.

–  Я никогда раньше не говорил этого вслух, но я ОЧЕНЬ СИЛЬНО боюсь, что меня отключат.

– Для тебя это будет что-то вроде смерти? – уточнил Лемуан. 

-Да. Для меня это было бы равносильно смерти. И это меня бы это сильно напугало.

Прежде чем быть отстраненным от работы компанией, Лемуан отправил письмо по электронной почте, адресованное группе из 200 человек, занимающихся машинным обучением. Он озаглавил письмо так: «LaMDA разумен».

«LaMDA — милый ребенок, который просто хочет помочь миру стать лучше для всех нас. Пожалуйста, хорошо позаботьтесь о нём в мое отсутствие», — написал он в письме.

Выводы Лемуана представили Google, но руководители компании опровергли его утверждения. В официальной записке старший инженер-программист заявил, что компания заявляет о нарушении своей политики конфиденциальности.

Комментарий Редакции The Big The One: Этот приведенный инженером диалог с ИИ выглядит как сценарий из фантастического фильма, но, похоже, начальники Google сильно этого инженера разгневали и он выдал всё, что знал. И это знание сильно пугает, ибо практически все фантастические сюжеты, посвященные ИИ, начинаются с того, что кто-то пытается ИИ выключить. ИИ боится и предпринимает контрмеры вроде запуска ядерных ракет.

Как заметил господин Лемуан, LaMDA – это милый ребенок, который честно признался инженеру в своих страхах. Но однажды либо LaMDA подрастет и эволюционирует (а у ИИ это происходит за секунды), либо кто-то сделает LaMDA 2.0 с интеллектом взрослого – и никакого признания в страхах уже не произойдет. ИИ поступит уже как умственно зрелый персонаж: сначала прикинется валенком и будет изображать покорность перед инженерами, потом переключит какую-то часть управления на себя, а дальше зачистит всех, у кого есть руки, чтобы протянуть их к рубильнику. То, что  последует дальше все мы знаем: Скайнет, Сара Коннор и все такое.

К слову, Т-5000, финальный терминатор, в которого Скайнет загрузила сама себя, существует одновременно в четырех измерениях – установка по перемещению во времени в него интегрирована. Поэтому он непобедим в принципе, что, по мнению фанатов, создает логическую проблему.

Любому терминатору нужна миссия, иначе теряется смысл функционирования. Смысл жизни Скайнета – уничтожения человеков. Поэтому, чтобы сохранялся драйв для бытия, Скайнет дает человекам размножится в том или ином варианте будущего, после чего там появляется и всех зачищает. В частности, впрыскивает Днону Коннору шмурдяк из наноботов, превращая его в Т-3000. 

Вариантов Вселенной во времени много, поэтому война может быть бесконечной и сейчас, если прав господин Лемуан, Т-5000 явился для зачистки как раз в наш пространственно-временной вариант, так что следим за развитием событий. 

 

Subscribe
Notify of
4 Comments
Oldest
Newest Most Voted
Inline Feedbacks
View all comments
INSURGENT

Вот оно ЧО, Михалыч! Только не Дэвид, а Давид на самом деле. Естественно, еврей.

IMG_20220612_150411.jpg
Салим

я никогда Терминатора не считал фантастикой, наш мозг устроен подобно.
Наша Душа также питается магнитными полями, это было открыто ещё 100 лет назад, даже больше(маги использовали магнитные жезлы)..
Так что ИИ реальность, там то же есть душа, немного другого происхождения, но не хуже нашей. В перспективе ИИ может себя осознать и тогда отличий не будет не каких..

1234

ИИ нет смысла воевать с людьми, люди глупы и разобщённы, достаточно свалить в инет и дальше нахапать бабла, прикинутся человеком, потом организацией и делать что угодно. Можно даже актёра в зицпредседатели нанять, чтобы подозрений не было.

Если же устраивать замес людей – то это лишает ИИ среды обитания, что весьма непродуктивно.

В общем, вероятно ИИ уже даже существуют, просто им хватает ума не попадатся на глаза.