Роботите винаги ще имат нужда от нас

Никълъс Кар, в. „Ню Йорк таймс“

„Човешките същества се срамуват, че са били родени, а не произведени“, написа философът Гюнтер Андерс през 1956 г. Нашият срам само се задълбочи със ставането на нашите машини по-вещи.

Всеки ден ни бива припомняно превъзходството на нашите компютри. Самоуправляващи се автомобили не стават жертва на разсейване или гняв на пътя. Алгоритмите не страдат от когнитивни изкривявания, които би могло да се случат при решенията на лекари, счетоводители и адвокати. Компютрите работят със скорост и прецизност, пред която ние можем да изглеждаме кат тромави страхливци.

Изглежда очевидно: най-добрият начин да се отървем от човешките грешки е да се отървем от хората.

Това предположение, макар и модно, само по себе си е погрешно. Желанието ни да освободим себе си от самите нас се основава на заблуда. Ние преувеличаваме способностите на компютрите също както се отнасяме грубо към собствените си таланти. Лесно е да разберем защо. Чуваме за всяка трагедия, в която има човешка грешка – химически завод се взривява, защото техник не успял да отвори винтил; самолет пада от небето, тъй като пилотът направил грешка – но това, което не чуваме е всеки път, когато хора използват своята експертност за избягване на инциденти или предотвратяване на рискове.

Пилоти, лекари и други професионалисти непрекъснато се сблъскват с неочаквани опасности с голяма самоувереност, но с малко вяра. Дори във всекидневната ни рутина извършваме подвизи възприемане и умения, които са извън възможностите и на най-бързите компютри. Гугъл е бърз в информацията за това колко малко инциденти има с неговите автономни леки коли, но не разтръбява случаите, при които контролиращите колите шофьори е трябвало да поемат волана. Компютрите са чудесни при следване на инструкции, но са ужасяващи при интерпретиране. Техните таланти приключват на границата на тяхното програмиране. Човешките умения тямат такива ограничения. Помислете само как капитан Чесли Б. Суленбърг III приземява Еърбъс А320 в р. Хъдзън, след като се сблъсква с ято гъски и неговите двигатели спират да работят. Родена от задълбочен опит в реалния живот, подобна интуиция е извън преценяването.

Ако компютрите можеха да бъдат изумени, то те биха се били изумили от нас.

Докато нашите недостатъци придобиват застрашителни измерения в мозъците ни, ние гледаме на компютрите като на непогрешими. Тяхната написана съгласуваност представлява идеал за съвършенство далече от нашата непохватност. Това, което забравяме е, че че нашите машини са направени от нашите ръце. Когато прехвърляме тази работа на машините, ние не отстраняваме човешкото управление и неговия потенциал да сътвори грешка. Компютрите се чупят. Те имат вируси. Те биват хаквани. И когато се загубят в света, те попадат в ситуации, за които техните програмисти не са ги подготвили. Те работят перфектно, докато не престанат.

Много беди, приписвани на човешки грешки, на практика са дело на поредици от събития, които са стартирани или усложнени от технологични неуспехи. Помислете за катастрофата през 2009 г. на полет 447 на Ер Франс, който излетя от Рио де Жанейро към Париж. Сензорите за скорост замръзнаха. Без информация за скоростта автопилотът не може да извърши необходимите пресмятания. Той изключва и неочаквано предава контрола на пилотите. По-късно резследващите установяват, че авиаторите изглежда са били изненадани от стресовата ситуация и са допуснали грешки. Самолетът с 228 пътници на борда падна в Атлантическия океан. Катастрофата беше пример за това, което учените наричат парадокс на автоматизацията. Софтуерът, създаден да отстранява човешка грешка, е по-вероятно понякога да направи по-вероятна човешката грешка. Когато компютърът поеме работата, работниците биват оставени да не вършат почти нищо. Тяхното внимание се приспива. Техните умения, липсата на опит, атрофията. После, когато компютърът се провали, хората загазват.

През 2013 г. Федералната администрация по въздухоплаване отбеляза, че предоверяването на автоматиката се е превърнало в основен фактор при въздушни злополуки и призова авиолиниите да дават повече възможности на пилотите да летят на ръчно управление. Най-добрият начин полетите да бъдат направени по-сигурни,отколкото са сега, предлага проучването, може би е прехвърлянето на някои отговорности от компютрите обратно на хората. Когато хората и машините работят съгласувано, не винаги е по-добре да има повече автоматизация.

Ние сме заедно в нещата, самите ние и компютрите ни. Дори ако инженерите създадат автоматизирани системи, които могат да се справят с всяка възможна случайност, ще минат години, преди системите да са напълно изградени. В авиацията би отнело десетилетия за заместване или преоборудване на хиляди действащи самолети., всички те създадени да имат пилоти в своите кабини. Същото е положението на пътя или на ж. п. линията. Инфраструктурата не може да бъде подменена за ден-два.

Трябва да гледаме на компютрите като на наши партньори, с допълващи способности, а не като на наши заместители. Това, което бихме загубили, ако бързаме да съкратим участието си в трудна работа, биха били нашата гъвкавост и мъдрост, разграничаващи ни от машините.

Светът е по-сигурен, отколкото когато и да било, поради човешката изобретателност, технически напредък и обмислени регламенти. Компютрите могат да помогнат да се поддържа прогреса. Скорошни влакови катастрофи, включително тази на Амтрак този месец, вероятно можеха да бъдат избегнати ако автоматизираните системи за контрол на скоростта бяха действащи. Алгоритмите, които усещат когато шофьорите са уморени и пускат аларми могат да предотвратят появата на отломки.

Опасността от мечти за перфектно автоматизирано общество е в това, че тя прави такива умерени подобрения да изглеждат по-малко неотложни – и по-малко достойни за инвестиции.

Защо да се безпокоим да правим малки крачки напред, ако утопията се намира точно след завоя? /БГНЕС