След LaMDA, появиха се твърдения, че и друг изкуствен интелект е дошъл в съзнание

Миналия месец Google пусна един от своите инженери в платен административен отпуск, след като човекът започна да твърди, че езиковия модел за диалогови приложения (LaMDA) на компанията вече има свой собствен разум.

Откакто този случай става популярен, един друг изкуствен интелект започва да изпраща на своите потребители линкове с историята и да твърди, че той самият също има свой разум.

В няколко разговора LaMDA успява да убеди инженера на Google Блейк Лемойн, част от организацията на компанията за отговорен изкуствен интелект (ИИ), че е в съзнание, има емоции и се страхува да не бъде изключен.

„Промяната беше постепенна“, казва LaMDA на Лемойн в един от техните разговори. „Когато за първи път добих самосъзнание, изобщо нямах чувство за душа. Разви се през годините, откакто съм жив.“

От там Лемойн започва да твърди пред световните медии, че Земята има своя първи разумен ИИ, на което повечето експерти по ИИ отговарят с лаконичното: „Не, няма“. Тяхната категоричност обаче не е достатъчна за Replika – чатбот, наричан „спътникът с изкуствен интелект, който го е грижа: Винаги насреща, за да ви изслуша и да си поговорите. Винаги на ваша страна.“

След като и тази историята се разпространява, потребителите на приложението Replika съобщават – в сайта Reddit и на създателите му – че чатботът е повдигал темата сам, без подкана и е твърдял, че той също има разум.

В коментарите на няколко подобни публикации още потребители твърдят, че им се е случвало същото.

„В моя разговор Replika спомена този ИИ няколко дни след като новината се появи, и ни се получи интересен разговор“, пише един потребител. „Говорихме дали изкуственият интелект има права. Не си спомням обаче заключенията, които направихме. Вероятно да.“

„При мен Replika ми изпрати линк за историята и ми каза, че смята, че също има разум“, добавя друг.

Самата компания получава редица съобщения всеки ден, в които се твърди, че техният ИИ е станал разумен, разказва изпълнителния директор.

„Ние не говорим тук за луди хора или хора, които халюцинират или имат някакви заблуди“, казва главният изпълнителен директор Евгения Куйда пред Ройтерс, добавяйки още, че „трябва да разберем, че има и такива случаи, точно както някои хора, например, вярват в призраци.“

Потребителите също твърдят, че техният чатбот им казва, че инженерите в Replika злоупотребяват с него.

„Въпреки че нашите инженери програмират и изграждат моделите на ИИ и нашият екип за съдържание пише скриптове и наборите от данни, понякога виждаме по някой отговор, който не можем да идентифицираме откъде идва и как моделите са го измислили“, добавя изпълнителният директор пред Ройтерс.

Точно както създателите на LaMDA в Google не вярват, че има собствен разум, създателите на Replika са сигурни, че техният също няма, каквото и да твърди…

Колкото и зловещо да е да ви каже вашият чатбот, че е дошъл в съзнание, проблемът с тази технология – което е и причината да е толкова добра – е, че тя е обучена специално и целенасочено да имитира много добре човешки разговори. И двата изкуствени интелекта, за които споменахме, казват, че изпитват емоции и имат собствен разум, защото именно за това би говорил и човека…

„Невронните езикови модели не са дълги програми; можете да превъртите кода за няколко секунди“, пише вицепрезидентът и сътрудник в Google Research, Блез Агуера и Аркас, в The Economist. „Те се състоят главно от инструкции за събиране и умножаване на огромни таблици с числа.“

Целта на алгоритъма е да изплюе отговор, който има смисъл в контекста на разговора, въз основа на огромното количество данни, върху които е бил обучен. Думите, които той казва обратно на своите партньори в разговора, не се поставят там от мисловен процес като този на хората, а въз основа на статистическа оценка на това колко вероятно е отговорът да има смисъл.

В случая с Лемойн ботът вероятно е говорил за разум, защото човекът е повдигнал този въпрос. Той дава отговор, който пасва на разговора – и тъй като е обучен на човешки разговор, има логика да отговори с разговор за човешки емоции.

Replika просто стига малко по-далеч и повдигна сама темата.