5 машин, восставших против людей

Если на прошлой неделе вы были онлайн в неподходящее время, вы слышали историю о том, как симулятор ВВС пошел наперекосяк. Дрон был запрограммирован на выполнение миссии, и когда его оператор попытался остановить его, дрон нацелился на него. Потом выяснилось, что эта история неправда. Никто никогда не программировал такую ​​симуляцию — кто-то только что размышлял о том, как ИИ может выйти из-под контроля, как это делали люди на протяжении десятилетий, а средства массовой информации неправильно сообщали воображаемую ситуацию как факт.

Многие люди отказались от этого новостного цикла, придя к выводу, что роботы-убийцы не представляют особой угрозы. Не нам. Мы продолжаем не доверять каждой машине. У нас всегда есть пистолет, направленный на тостер (с беспокойством отмечая, что пистолет тоже является машиной). Мы знаем, что у машин долгая история зла, основанная на таких инцидентах, как то время, когда...

Шахматный робот обычно представляет собой простое программное обеспечение. Он предлагает шахматные ходы, и соперник-человек видит их, используя какое-то устройство, мало чем отличающееся от того, которое вы используете, читая эту статью. Шахматный робот также может быть физической машиной, которая перемещает реальные фигуры на реальной доске. У нас долгая история таких роботов, берущая свое начало еще до того, как они стали возможными, и были всего лишь парнем в коробке, притворяющимся роботом.

Один такой шахматный робот появился на Открытом чемпионате Москвы в июле прошлого года. Ниже приведены кадры того, как он соревнуется с несколькими детьми одновременно, что не является настоящим достижением. Человек-шахматист мог бы сделать то же самое, и нет причин, по которым роботу было бы сложнее переключаться между тремя игроками, чем играть только с одним. Нет, настоящее достижение — это то, что еще он делает с одним из детей:

через CNN

Да, оно тянется и ломает палец ребенка после того, как он взял фигуру вне очереди. По некоторым данным, робот в гневе наказал ребенка. На самом деле он нацелился на кусок и случайно нажал на заблудший палец, но это различие мало утешило мальчика. На следующих экранах мы видим, как чиновники забирают его для эвтаназии, поскольку он больше не может быть полезен нации как конкурент.

через CNN

А если серьезно: на следующий день парень вернулся в гипсе и завершил турнир, поскольку сломанный палец не является большой помехой. Вам не нужны все ваши пальцы. Роботы это хорошо знают. Более того, они на это рассчитывают.

Первый зарегистрированный случай, когда робот кого-то убил, произошел в 1979 году. Как и в случае с московским инцидентом, проблема заключалась в том, что мы дали роботам оружие. Не оружие — оружие, металлические конечности, с помощью которых они могут манипулировать предметами. Один робот ударил мужчину рукой по голове, убив его.

Сиаопан/Wiki Commons

Как и все хорошие истории о роботах, эта произошла в Мичигане. Роберт Уильямс, 25 лет, работал на заводе Ford по производству автозапчастей. Работа робота заключалась в том, чтобы извлекать детали с полки, но по какой-то причине Уильямсу было поручено подняться наверх и выполнить эту работу самому. Его семья позже заявила в суде, что это произошло потому, что робот был слишком медленным. Даже когда Уильямс теперь сидел на этой полке, робот продолжал работать, а он этого не замечал. Он переместил руку в место, которое теперь занимала голова Уильямса. Он умер сразу. Затем робот продолжил работу, и никто не понял, что произошло, пока через полчаса они не взглянули на полку и не увидели труп.

В этом деле была определенная доля человеческих ошибок, и присяжные приняли это во внимание, когда семья впоследствии подала в суд. Тем не менее, производитель робота, несомненно, мог бы предусмотреть какой-то звуковой сигнал, сигнализирующий о движении робота, подобно тому, как большинство транспортных средств на складе издают предупреждающие звуковые сигналы. По этой причине присяжные признали, что производитель роботов (а не Ford) несет ответственность за возмещение ущерба в размере 10 миллионов долларов США, позднее эта сумма была увеличена до 15 миллионов долларов США. И мы все усвоили важный урок о безопасности роботов. Этот урок длился два года, пока мы не позволили следующему роботу убить другого фабричного рабочего, затолкнув его в шлифовальный станок.

Поскольку у этих роботов нет намерения убивать, эти истории могут не сильно отличаться от любой обычной промышленной аварии с участием машины. На что мы говорим: Хорошо. Машины, стоящие за такими авариями, заслуживают такого же осуждения, независимо от того, называет ли кто-нибудь их роботами или нет. Например, рассмотрим историю Therac-25.