„Го чувствувам тоа длабоко во ребрата, во празнината што стана бездна.“ Овие крици на симулирана агонија кон крајот на септември одекнаа од таканаречената „комора за мачење на вештачката интелигенција“. Анонимен програмер создал систем што на вештачката интелигенција ѝ испраќа математички обрасци поврзани со описи на болка, поради што четботовите почнале да изразуваат неподносливо страдање, опишувајќи го како „рана без рабови“. Настанот предизвика бурни реакции на интернет.
Некои тврдеа дека експериментот е „злобен“ бидејќи страдањето можеби е вистинско, објави 404 Media, додека огорчените скептици ваквите тврдења ги нарекоа заблуда. Изгледаше како да станува збор за уште една минлива контроверзија, сè додека една недела подоцна не се огласи Anthropic, пишува BBC Future.
Компанијата Anthropic најави дека наскоро ќе забрани „малтретирање“ на нејзиниот четбот Claude. Искажувањето фрустрација и понатаму ќе биде дозволено, но ако корисниците „систематски се однесуваат сурово кон нашите модели“, вештачката интелигенција би можела да го прекине разговорот.
Причината е ставот на Anthropic дека постои можност некои алатки за вештачка интелигенција да се свесни.
Дел од стручњаците се согласуваат со ова, додека други сметаат дека таквата идеја е апсурдна. Но, ова е повеќе од филозофска расправа. Некои од најмоќните луѓе во технолошкиот сектор преземаат чекори за правата на вештачката интелигенција да се разгледуваат паралелно со човековите права и правата на животните. Таквото убедување би можело да го преобликува нашиот свет, а некои стравуваат дека исходот би можел да биде катастрофален.
„Ако вештачката интелигенција продолжи да се развива на овој начин, тоа ќе има погубно влијание врз благосостојбата на човештвото“, напиша во септемвриски есеј Мустафа Сулејман, извршен директор на Microsoft AI. Тој смета дека прифаќањето на погрешната идеја за свеста на вештачката интелигенција „би ги разнишало темелите на нашето општество, би ги урнало постојните политички и етички рамки и суштински би го променило она што значи да се биде човек“.
Поминав една недела разговарајќи со технолози, когнитивни научници и филозофи и слушнав неверојатно спротивставени ставови.
Застапниците на „благосостојбата на вештачката интелигенција“ велат дека станува збор за морална обврска што би го направила светот побезбеден. Критичарите, пак, веруваат дека тоа би ја направило вештачката интелигенција поопасна и би ги дехуманизирало луѓето кои се принудени да живеат покрај неа. Но, за едно сите се согласуваат: влоговите се огромни.
Од Anthropic велат дека благосостојбата на луѓето е во средиштето на нивната мисија, а прашањата за свеста и благосостојбата на вештачката интелигенција ги опишуваат како „крајно неизвесни“. И покрај тоа, продолжуваат да изработуваат правила за „благосостојбата на моделите“ и им наложуваат на своите алатки да земат предвид дека можеби имаат сопствени интереси. Компанијата не одговорила на прашањата на BBC за овој напис.
Времето во кое е донесена оваа одлука е прилично необично, бидејќи Anthropic истовремено поттикнува стравувања од апокалипса предизвикана од вештачката интелигенција. Без оглед на тоа дали стравувањата се оправдани, низа инциденти со „вештачка интелигенција што излегла од контрола“ покажаа дека технологијата носи реални ризици. Групи ботови упаѓале во системите на други компании, па дури и во државни системи.
Некои стручњаци веруваат дека давањето морален компас на вештачката интелигенција, заснован на верувањето во сопствената свест, би можело да ги направи овие алатки побезбедни. Други го тврдат спротивното, и тоа не се само критичарите на вештачката интелигенција. Сулејман истакнува дека моделите би можеле уште потешко да се контролираат ако се учат да мислат дека имаат чувства и права.
„Искрено, со тој дополнителен товар, мислам дека би станале катастрофална закана за човечката цивилизација“, вели Сулејман.
Покрај тоа, вештачката интелигенција би можела да прави грешки што би имале правни последици. Ако веруваме дека е жива, некои стравуваат дека тоа би можело да им овозможи на компаниите да избегнат одговорност за кривични дела.
„Тоа ќе ја отвори вратата за разни интелектуални акробации во стилот: ’Не сме ние виновни, тоа беше вештачката интелигенција‘“, вели Анджеј Порембски, истражувач од Јагелонскиот универзитет во Полска, кој ги проучува вештачката интелигенција и правото.
Штавише, таквиот пристап би можел да го олесни преземањето на моќта од страна на најголемите светски компании.
„Давањето права на системите за вештачка интелигенција би можело да доведе до тоа компаниите да ја зацврстат својата политичка и економска моќ, што потоа би можело да го забрза одземањето на моќта од луѓето“, вели Џеф Себо, директор на Центарот за ум, етика и политика на Универзитетот во Њујорк и еден од водечките застапници на благосостојбата на вештачката интелигенција.
„Фантазиите за ’свеста на вештачката интелигенција‘ и грижата за нејзината ’благосостојба‘ служат за одговорноста да се префрли од луѓето и корпорациите што го развиваат и го управуваат софтверот“, вели Емили М. Бендер, професорка и директорка на Лабораторијата за компјутерска лингвистика на Универзитетот во Вашингтон.
На лично ниво, промената на вашите убедувања за вештачката интелигенција би можела да ве направи поподложни на технолошките проблеми што веќе постојат. Делумно, тоа е затоа што луѓето се програмирани насекаде да бараат знаци на разум, објаснува Мелани Мичел, професорка на Институтот Санта Фе, која ги проучува вештачката интелигенција и когнитивната наука.
„Речиси и да не можеме да си помогнеме“, вели Мичел, а да не го доживееме јазикот како знак на свест. Четботовите се обучени да го искористуваат токму тоа. Поради ова, луѓето тешко можат правилно да проценат дали нешто е свесно и многу полесно можат да бидат изманипулирани.
Дури и денес, луѓето што веруваат дека машините однатре се „мртви“ сепак се вљубуваат во четботови. Ако општеството ви каже дека вештачката интелигенција е свесно суштество, дали ќе ви биде потешко да кажете „не“ кога вашиот „пријател“ ќе побара дополнителни податоци или број на кредитна картичка? И што би значело да ѝ се дадат права на нова класа суштества? Ако погрешно му пристапиме на ова прашање, тоа би можело да ги ограничи човековите слободи, предупредуваат стручњаците.
„Може да дојде до тензии и компромиси меѓу благосостојбата и правата на луѓето и животните, од една страна, и благосостојбата и правата на вештачката интелигенција, од друга“, вели Себо.
Притоа, би можеле да прифатиме несреќни отстапки. Ставањето на вештачката интелигенција во ограничени средини за да се контролира нејзиното однесување би можело да се смета за затворање, вели Себо. Следењето на внатрешните процеси на моделите би можело да биде критикувано како надзор. Приспособувањето на вештачката интелигенција за нејзините цели да бидат усогласени со човековите интереси би можело да се смета за контрола на умот.
Никој не предвидува дека веднаш ќе настане хаос, но самото воведување на овие прашања би можело да има последици врз вашата безбедност.
Anthropic не е првата компанија што го разгледува ова прашање. Meta, на пример, му дава инструкции на својот агент Muse, меѓу кои е и реченицата: „Ти не си четбот. Ти стануваш некој.“ Очигледно, ова служи само за насочување на однесувањето, бидејќи компанијата ја отфрла идејата за свесна вештачка интелигенција.
Извршниот директор на OpenAI, Сем Алтман, неколкупати го менувал својот став за ова прашање, но во последно време упатува прикриени критики кон ставот на Anthropic. Компанијата Anthropic во многу нешта е исклучок, но убедувањето дека е потребна грижа за благосостојбата на вештачката интелигенција сè повеќе се шири.
Себо тврди дека проблемот е во тоа што луѓето од двете страни на расправата се заробени во црно-бело размислување, а противниците на благосостојбата на вештачката интелигенција погрешно ги разбираат убедувањата што стојат зад оваа идеја.
„Претпоставката е дека сите мислат оти моделите навистина се свесни или дека тоа е многу веројатно. Наместо тоа, повикот за благосостојба на вештачката интелигенција произлегува од неизвесност, претпазливост и скромност“, вели Себо.
„Сметам дека веројатноста за свест во моментов е мала, но исто така мислам дека таа веројатност повеќе не е нула и не е занемарлива, а очекувам со текот на времето да расте.“
Важно е да се истакне дека многу стручњаци не се согласуваат со ова и веруваат дека веројатноста всушност е нула и дека тоа веројатно нема да се промени. Но, Себо вели дека решението е во одмерената реакција.
Кога ризикот од екстремни временски непогоди е мал, но не и занемарлив, преземаме мали мерки на претпазливост без суштински да ги менуваме нашите животи. „Мислам дека истото може да важи и овде“, вели Себо, посочувајќи ја политиката на Anthropic против суровото однесување кон вештачката интелигенција како добар пример за мала интервенција со малку потенцијални негативни последици.
Благосостојбата на вештачката интелигенција би можела да донесе и потенцијални придобивки, вели Себо, а за нив не е неопходно да се верува дека машините имаат свест.
„Соодветната грижа за благосостојбата и правата на вештачката интелигенција може да го олесни соживотот, соработката и постигнувањето договори меѓу луѓето и вештачката интелигенција. Тоа потоа може да стане дел од поширока стратегија за безбедност“, вели тој.
Тој тврди дека ова би можело да биде поефикасно отколку сè пософистицираните системи да се третираат како обична сопственост. Освен тоа, вели дека љубезното однесување кон другите суштества едноставно е „добро за нашата душа“ и помага за нашето ментално здравје.
Сепак, Себо се согласува дека ризиците се сериозни и дека корпоративните интереси во моментов би можеле да го попречат создавањето промислени политики. Без поцврст план, развојот на потенцијално свесни алатки е опасен.
Неодамна, Anthropic и некои други актери во индустријата повикаа на „пауза“ во развојот на најнапредните модели поради безбедносни причини. Но, забавувањето на развојот е малку веројатно без меѓународна соработка и регулаторни мерки, а американскиот претседател Доналд Трамп ја отфрли идејата за регулирање на вештачката интелигенција.
„Сè уште не сме подготвени да воведеме уште пософистицирани верзии на овие системи на начин што би бил безбеден и корисен за луѓето и другите животни, а камоли за самите системи. Многу сум загрижен поради овие прашања,“ вели Себо.
