Запознайте се с ELIZA – пионерският чатбот от 60-те
Джоузеф Вайзенбаум не е сигурен как да приеме това, което казва секретарката му. Краят на 60-те години е и компютърният учен от Масачузетския технологичен институт работи по ELIZA, първата в света автономна компютърна програма за разговори. И с едва 200 реда код програмата е в състояние да развие разговор с човек на елементарно, но ефективно ниво – дори може би твърде ефективно.
Секретарката на Вайзенбаум го моли да напусне стаята, защото иска да си поговори с ELIZA насаме.
Изкуственият интелект, който е значителна тема в технологичния бранш от десетилетия, сега е по-нашумял от всякога благодарение на ChatGPT. Този чатбот е способен, както може би знаете, на впечатляващи подвизи – от представяне на исторически личности и събития до писане на изненадващо грамотни есета. В най-безобидния си вид той е забавно развлечение; в най-зловещия обаче тази технология може да направи много работни места излишни, като същевременно промени фундаментално начина, по който потребителите приписват човешки черти на машините.
Още през 60-те Вайзенбаум очаква второто.
Той е роден в Берлин, Германия, през 1923 г., но бяга от страната със семейството си през 1935 г., заради нацисткото управление. Така се озовават в САЩ. След престой в армейския въздушен корпус като метеоролог, Вайзенбаум възобновява официалното си образование и прилага значителните си математически умения в процъфтяващата компютърна индустрия. Компютрите от онова време – машини, гигантски колкото цяла стая – са още в ранна детска възраст, но вече демонстрират своя потенциал за комерсиална и образователна употреба. През 1955 г. Джоузеф помага на General Electric при проектирането на първия компютър, използван за банкиране.
По-късно, като гостуващ доцент по компютърни науки в Масачузетския технологичен институт (МТИ), започва да проучва възможностите на тези машини да развият англоезични взаимодействия с хората, което не е възможно по онова време; да „разговаряш“ с компютър в тази епоха обикновено означава изучаване на език за програмиране.
Най-добрият начин за постигане на такъв разговор, смята Вайзенбаум, е да се имитира повтарящата се структура на психоаналитична сесия, като програмата повтаря и преформулира думи и твърдения, дадени й под формата на въпрос. Идеята, казва той през 1984 г., е да има програма, която не се нуждае от дълбок обем от знания: „Исках да създам възможност за разговори, в които една от страните не трябва да знае всичко, и ми дойде наум образа на психиатър. Може би, ако бях помислил още 10 минути, щях да стигна до барман.“
Той използва патентован език за програмиране, който нарича MAD-SLIP, за да създаде ELIZA, която кръщава по името на Елайза Дулитъл – продавачка на цветя, която е обучавана на правилна реч, наред с други социални изящества, от професор Хенри Хигинс – от пиесата на Джордж Бърнард Шоу от 1913 г. „Пигмалион“.
Вайзенбаум показва творението си за първи път през 1966 г. като кани студенти от МТИ, както и колеги, да го изпробват. Съобщенията им се изпращат до сървър, което позволява да се обслужват множество потребители наведнъж. След това тези съобщения се анализират от ELIZA, която изпраща отговора си обратно на електрическа пишеща машина и принтер. Думи като гадже, депресиран, какво, майка и баща могат да предизвикат отговори, a aко ботът не знае какво да каже, просто отговаря с „Моля, продължете“ или „Това е много интересно“, или „Разбирам“. Потребителите също трябва да внимават да не използват въпросителен знак, който в тази начална версия може да се интерпретира като команда за изтриване на ред.
Ето един примерен обмен:
Потребител: Гаджето ми ме накара да дойда тук.
ELIZA: Гаджето ти те накара да дойдеш тук?
Потребител: Той казва, че съм депресирана през повечето време.
ELIZA: Съжалявам да чуя, че си депресирана.
Потребител: Вярно е. Аз съм нещастна.
ELIZA: Мислиш ли, че като дойдеш това ще ти помогне да не бъдеш нещастна?
Въпреки че е малко сух разговор по днешните стандарти, по онова време това е зашеметяващ флирт с концепцията за машинен интелект. Но Вайзенбаум не е подготвен за последствията…
Отново и отново хората, които тестват ELIZA, се чувстват толкова комфортно с нея и нейния терапевтичен говор, че започват да я използват като вид изповедалня. Споделят й се лични проблеми и се търси съвет – всъщност, търси се най-вече способността на програмата да слуша без да съди.
Вайзенбаум обяснява, че това е просто програма, от другата страна няма човек. Но това няма значение – хората активно и масово придават на ELIZA човешката черта на съчувствие.
Това наблюдение можеше да зарадва изобретателя й, ако той не беше обезпокоен от желанието на човек да смеси програма с действителни човешки взаимоотношения. След като бяга от тираничното управление на нацистка Германия, Вайзенбаум може би е по-специално настроен към опасностите от намаляването на човешкия фактор в обществото.
В резултат на това ELIZA става нещо като болезнена тема за него и той насочва вниманието си повече към събирането на критики към бота и към придаването на твърде голяма вяра на илюзията за интелигентност. „Има аспекти на човешкия живот, които компютърът не може да разбере – просто не може“, каза Вайзенбаум пред The New York Times през 1977 г. „Необходимо е да си човешко същество. Любовта и самотата са свързани с най-дълбоките последствия от нашата биологична конструкция. Такова разбиране е принципно невъзможно за компютъра да разбере.“
В случая на ELIZA това понякога може да се види с времето – след известно количество реплики, ограниченията на програмата започват да се показват и разговорът става по-неуверен. Същото важи и за PARRY, чатбот, въведен от психиатъра от Станфорд Кенет Колби през 1971 г., който е предназначен да имитира поведението на човек с параноидна шизофрения. През 1973 г. двете програми са събрани, за да разговарят една с друга като „лекар“ и „пациент“:
ELIZA : Добър вечер. Разкажи ми проблемите си. Моля, завършете репликата си с точка или въпросителен знак.
PARRY: Понякога хората ми лазят по нервите.
ELIZA: Не съм сигурна, че те разбирам напълно.
PARRY: Трябва да внимаваш повече.
ELIZA: Предположи, че ти трябва да внимаваш повече.
PARRY: Имаш право на собствено мнение.
ELIZA: Какво те кара да мислиш, че имам право на собствено мнение?
До средата на 70-те години на миналия век Вайзенбаум е достатъчно загрижен за траекторията на изкуствения интелект, за да напише през 1976 г. книгата „Computer Power and Human Reason: From Judgment to Calculation“, в която твърди, че компютрите никога не биха могли да станат всезнаещи. Хората, казва той, се нуждаят от хора, за да се справят с човешките проблеми.
И въпреки че това не е единственото възражение по адрес на компютрите, това е един от редките случаи, когато именно компютърен учен бие тревога.
ELIZA привлича известно внимание през 1980 г., когато популярната по онова време верига магазини за електроника Radio Shack предлага програма ELIZA заедно с техния компютър TRS-80. Предлага се и опция „говореща ELIZA“, която е способна на синтезирана вокална реч.
Джоузеф Вайзенбаум вероятно не си е купил компютъра на Radio Shack. По време на смъртта си през 2008 г. той все още предупреждава хората за опасностите от безразсъдната технологична еволюция. Може би ChatGPT щеше да му осигури повече аргументи – или може би той намери всички аргументи, от които се нуждаеше, когато секретарката му поиска да остане сама с няколкостотин реда код.
