Роботите убийци няма да са като по филмите – ето какви са истинските заплахи

Много хора вероятно предполагат, че Холивуд предсказва бъдещето доста сполучливо. И в известна степен е така – Робърт Уолъс, ръководителят на Службата за техническо обслужване на ЦРУ и американския еквивалент на агент Кю на МИ6 от филмите за Джеймс Бонд, разказа как руските шпиони са гледали най-новите филми за 007, за да видят какви технологии може да се изправят срещу тях.

Дългогодишната мания на Холивуд по бойните роботи следователно може да бъде сериозно безпокойство. Един подобен филм е „Dolly“ – съдебна драма за секс робот, продуцирана за Apple TV.

Не сме вярвали, че някога ще пишем за „съдебна драма за секс роботи“, но ето. Базиран на разказ от 2011 г. на Елизабет Беър, сюжетът засяга милиардер, който е убит от секс робот, който пък след това иска адвокат, за да го защитава пред съда.

Истинските роботи убийци

„Dolly“ е най-новият в дълга поредица от филми с роботи убийци – включително HAL в „2001: A Space Odyssey“ на Кубрик и роботът T-800 на Арнолд Шварценегер в поредицата „Тhe Тerminator“; Kонфликтът между роботи и хора дори е в центъра на първия пълнометражен научно-фантастичен филм, класиката на Фриц Ланг от 1927 г. „Metropolis“.

Но почти всички тези филми грешат – роботите няма да бъдат съзнателни хуманоиди със зли намерения. Тази идея може да е подходяща за създаване на драматичен сюжет и успех в боксофиса, но такива технологии са много далеч, на десетилетия, ако не и векове.

Всъщност, противно на модерните страхове, роботите може и никога да не бъдат разумни.

Има много по-прости технологии, за които трябва да се тревожим. И те започват да се появяват на бойното поле днес на места като Украйна и Нагорни Карабах.

Дрон

Нов вид война

Филми, които включват технологично много по-прости бойни дронове, като „Angel has Fallen“ (2019) и „Eye in the Sky“ (2015), рисуват може би най-точната картина на истинското бъдеще на роботите убийци.

Във вечерните новини виждаме как съвременната война се трансформира с навлизането на все по-автономни дронове, танкове, кораби и подводници. Тези роботи всъщност са само малко по-сложни от тези, които можете да си купите от местния хоби магазин.

И с течение на времето все повече и повече от решенията за идентифициране, проследяване и унищожаване на цели се прехвърлят на тях и сложните им алгоритми.

Това води света към опасно място, с множество трудни за решаване морални, правни и технически въпроси. Такива оръжия, например, допълнително ще разстроят нашата проблемна геополитическа ситуация; вече виждаме как Турция се очертава като голяма сила по отношение на дроновете.

Такива оръжия също прекрачват морална (ярко!)червена линия в ужасен и ужасяващ свят, където машини решават кой да живее и кой да умре.

Производителите на роботи обаче започват да се противопоставят на това бъдеще.

Пакт против военизирането

Миналата седмица шест водещи компании в областта на роботиката обещаха, че никога няма да въоръжат своите роботи. Една от тези компании е Boston Dynamics, която прави хуманоидния робот Atlas, който може да извършва впечатляващи маневри като задно салто, и кучето робот Spot, което изглежда като направо от телевизионния сериал „Black Mirror“.

Това не е първият път, когато компаниите за роботика говорят за това тревожно бъдеще. Преди 5 години отворено писмо, подписано от Илън Мъск и повече от 100 основатели на други компании за изкуствен интелект и роботи, призова ООН да регулира използването на роботи убийци. Писмото дори измести папата на трето място за награда за глобално разоръжаване.

Фактът, че водещите компании за роботика обещават да не въоръжават своите машини, е по-скоро рекламен подход, отколкото нещо друго.

Например вече сме виждали трети страни да монтират оръжия върху клонинги на кучето робот Spot на Boston Dynamics. И такива модифицирани роботи се оказват съвсем ефективни на бойнотои поле: например, най-добрият ирански ядрен учен бе убит от израелски агенти с автомат-робот през 2020 г.

Колективни действия за защита на бъдещето

Единственият начин, по който можем да се предпазим от ужасяващо бъдеще, е ако нациите колективно предприемат действия, както преди направиха с химическите оръжия, биологичните оръжия и дори ядрените оръжия.

Подобно регулиране няма да бъде перфектно, точно както регулирането на химическите оръжия не е перфектно. Но ще попречи на оръжейните компании да продават открито такива оръжия и следователно ще намали тяхното разпространение.

Ето защо е дори по-важно от обещанието на компаниите да видим, че Съветът по правата на човека на ООН наскоро единодушно реши да проучи последиците за човешките права от нови и нововъзникващи технологии като автономните оръжия.

Няколко десетки държави вече призоваха ООН да регулира роботите убийци. Европейският парламент, Африканският съюз, генералният секретар на ООН, редица нобелови лауреати за мир, църковни лидери, политици и хиляди изследователи в областта на изкуствения интелект и роботиката – всички те призоваха за регулации.

И действително – ако искаме да избегнем едно такова холивудско бъдеще, може да е добре да обсъдим въпроса с политическите ни представители следващия път, когато ги видим.