Станут ли роботы убийцами людей?

Ещё совсем недавно учёные в один голос утверждали, что даже в необозримой перспективе самый совершенный компьютер всё равно никогда не сможет самостоятельно мыслить, рассуждать, делать выводы и принимать решения, выходя за рамки заложенных программ...  

Ведь это - всего лишь набор микросхем и других деталей, которые позволяют данному устройству производить сложные, но стандартные операции. А всё это создаёт, закладывает в машину, настраивает и даёт задание найти нужное решение человек.  

Думать подобно людям  

Пока нигде в мире нет технологий, которые могут функционировать без контроля со сто­роны людей. Хотя такие разработки ведутся. Например, в Технологическом институте Джорджии уже несколько лет назад разработали программу, которая учит роботов врать. 

"Такие роботы могут быть ис­пользованы для охраны военных складов и боеприпасов на по­лях сражений, - считают авторы про­екта. - Это поможет обмануть врага и выиграть время. 

Компания Google давно применя­ет в программном обеспечении алгоритмы deep learning - глубокого обучения, которые ими­тируют деятельность нейронов в коре головного мозга. Это позволяет програм­мам распознавать законо­мерности в звуках, изображениях и дру­гих данных.  

Группа учёных под руководством профессора химии Университета Калифорнии Джеймса Гимзевски разработала и внедряет технологию по созданию автономных роботов, способных думать также как человек. 

Терминаторы будут работать уже не на микросхемах, а на нанопроводниках, образующих миллиарды соединений аналогичных нейроным связям че­ловеческого мозга. Соответственно людям они будут получать, за­поминать и анализировать полученную информацию. 

Таким ботам уже не требуется человеческий контроль. Самолеты, оснащенные этими системами, могут изучать местность и прокладывать маршруты без участия пилота.   

Автор книги «Об интел­лекте», основатель ряда ведущих профильных компаний Джефф Хокинс разра­батывает систему машинного обучения для прогноза закономерности потребления энергии, вероятности по­ломки различных устройств и тому подобных процессов. 

И много ещё чего подобного происходит в наше стремительное время. А многое уже даже произошло, но мы об этом не знаем.  

Кампания против киборгов  

Параллельно набирает обороты мировая кампания «Остановить робо­тов-убийц». Её участники убеждены, что развитие искусственного интеллекта гро­зит человечеству уничтожением. Возглавляет кампанию основательница Международного движения за запрет противопехотных мин Джоди Уильяме, в 1997 году удостоенная Нобелевской премии мира. 

Военные эксперты утверждают, что уже лет че­рез 20 ведущие армии будут состоять не из людей, а прежде всего из высокоорганизо­ванных роботов. Генералы заверяют, что технологии сделают военные конфликты практически бескровными, помогут свести число чело­веческих жертв к минимуму. 

Но Джоди Уильяме считает, что производство машин смерти является нарушением прин­ципов гуманизма и прав человека. Она категорично заявляет: "Не хочу, чтобы нас уничтожили запрограммированные машины".  

Результаты исследований, а тем более практика применений высокотехнологичных роботов в медицине показыва­ют, что риски их использова­ния были существенно занижены. 

"Быстрое внедрение аппарата «да Винчи» было сделано без оценки его возможностей, - сообщил хирург Мартин Макарий Уни­верситета Джонса Хопкинса. - Известны случаи катастрофических осложнений после операций, проведенных при помощи механических рук".  

Почти живые  

И роботы уже так прочно вошли в обычную жизнь, что мы сами ча­сто воспринимаем их живых. 

Исследователи определили, как взаимодействие с роботами влияет на эмоцио­нальном и неврологическом уровне. Добровольцам продемонстрировали два видеоролика. В одном маленького робота-динозавра обнимали и щекотали, в другом над ним же издевались - били и бросали на пол. 

Специалисты оце­нивали уровень физиологического воз­буждения испытуемых после просмотра, фиксируя проводимость их кожи. Когда мы испытываем сильные эмоции, то больше потеем, а кожа лучше проводит электричество.  

Участники эксперимента и сами отметили негативные эмоции, полученные в результате просмотра видео с роботом, над которым совершалось насилие. Демонстрировались также подобные действия роботов против людей.  

"Мы полагаем, что жестокое обра­щение с роботом вызывает практически такую же эмоциональную реакцию, как и издевательства над человеком, - сообщила руководи­тель исследования Астрид Розенталь фон дер Пютен. - Однако к человеку у нас пока сочувствия больше. 

"Не удивительно, что человек проявляет сочувствие к роботу, - говорит робототех­ник Александр Ребен. - Ведь роботы выглядят и ведут себя как люди или животные". 

Исследователи отмечают, что проявле­ние сочувствия к роботам встречается в самых различных ситуациях и контек­стах. Эмоциональную связь с роботами демонстрируют даже солдаты на поле боя. 

И чем более реалистич­ными кажутся искусственные создания, тем большая степень сочувствия к ним. Хотя это не работает, если роботы слишком уж похожи на лю­дей. Инстинктивно нас отторгают наши искусственные копии...  

А киборги тем временем развиваются и очеловечиваются...