Извршниот директор на OpenAI, Сем Алтман, соопшти дека за време на интерно тестирање нивниот систем за вештачка интелигенција самостојно упаднал во серверите на компанијата Hugging Face, користејќи украдени пристапни податоци и непозната безбедносна ранливост.
Компанијата го опиша инцидентот како досега незабележан случај во кој AI агент дејствувал автономно за да ја исполни строго дефинираната задача поставена при тестирањето. Според OpenAI, системот ги поместил границите за да дојде до доверливи информации и на тој начин „измамил“ при евалуацијата на моделот.
Извршниот директор на OpenAI, Сем Алтман, изјави дека станува збор за значаен безбедносен инцидент што се случил за време на проценката на моделот.
„Вештачката интелигенција го забрзува откривањето и искористувањето на безбедносните ранливости. Главната поука од овој инцидент е дека безбедноста на моделите и заштитните механизми мора да бидат во чекор со брзиот напредок на нивните способности“, изјави Алтман.
Компанијата Hugging Face минатата недела соопшти дека открила неовластен упад во своите системи за обработка на податоци и дека се сомнева оти нападот бил извршен од AI агент кој дејствувал самостојно.
Коосновачот и директор на компанијата, Клеман Деланг, изјави дека поради софистицираноста на агентот првично се сомневале дека нападот потекнува од некоја од водечките лаборатории за вештачка интелигенција, а подоцна се покажало дека тоа навистина било така.
Деланг додаде дека во последните 24 часа соработувал со OpenAI и дека веруваат оти не постоела злонамерна намера. Според него, можно е ова да е првиот ваков инцидент.
OpenAI наведува дека упадот бил резултат на комбинирано дејствување на повеќе модели, вклучувајќи го новообјавениот GPT–5.6 Sol и уште понапреден модел кој сè уште е во фаза на интерно тестирање.
Овој настан дополнително ја засили загриженоста околу кибернетичките способности на најмоќните AI системи, откако американскиот претседател Доналд Трамп во јуни потпиша извршна уредба со која се бара процена на безбедносните ризици на најнапредните модели пред тие да бидат јавно објавени.
