Србија го подготвува првиот закон за вештачка интелигенција, кој треба да воспостави правила за нејзина безбедна и одговорна примена, но и да овозможи понатамошен развој на домашната ИТ индустрија. Идната регулатива ќе ги класифицира моделите според нивото на ризик, ќе забрани одредени форми на употреба, но и ќе обезбеди конечната одлука секогаш да ја донесува човек, објавува РТС.
Државниот секретар во Министерството за наука, технолошки развој и иновации, Марија Гњатовиќ, нагласува дека законот нема да ја регулира самата технологија, туку ризиците што може да ги произведе нејзината примена, објавува РТС.
„Овој вид закон е исклучително неопходен бидејќи сега всушност ја користиме вештачката интелигенција во сите сектори. Вештачката интелигенција влијае на начинот на кој подготвуваме, на пример, емисии, начинот на кој работиме, како истражуваме, како донесуваме одредени одлуки кои можат да бидат и со висок и со низок ризик. И токму тој ризик е главната тема на овој закон“, рече Гњатовиќ.
Тој вели дека „со овој закон не ја регулираме самата технологија, туку го регулираме нивото на ризик што може да го создаде примената на вештачката интелигенција“.
Тој објаснува дека системите ќе бидат класифицирани според степенот на ризик, па така, на пример, моделите што им помагаат на лекарите да поставуваат дијагнози ќе бидат класифицирани како високоризични, додека препораките за филмови или слични услуги ќе се третираат како нискоризични.
„Овој закон на некој начин ќе ги дефинира и класифицира сите решенија што се применуваат на пазарот, со оглед на тоа што постои потреба системите со висок ризик да се чуваат во одреден регистар што ќе се формира, додека системите со низок ризик нема да мора да се внесуваат во регистарот“, изјави Гњатовиќ.
Еден од клучните принципи на идниот закон е дека конечната одлука секогаш ја донесува човек.
„Многу е важно процесите да бидат транспарентни, а уште поважно е одлуката секогаш да зависи од човекот, а не од софтверот или машината“, истакна Гњатовиќ.
Советникот за прописи и инспекции во NALED, Милан Стефановиќ, додава дека законот е усогласен со европскиот пристап базиран на проценка на ризикот.
„Законот подразбира, во согласност со европските решенија, дека постои човечки надзор и одлука донесена од лице. Тој е дизајниран така што вештачката интелигенција се гледа како производ. Моделите ќе бидат класифицирани во четири категории на ризик – забрането, високо, средно и минимално, а мерките за надзор и контрола ќе бидат пропорционални на нивото на ризик“, објасни Стефановиќ.
Според него, законот експлицитно ќе забрани одредени примени на вештачката интелигенција.
„Еден од примерите е социјалното рангирање на граѓаните. Не можеме да користиме вештачка интелигенција за да им доделуваме оценки на луѓето за тоа дали се подобри или полоши луѓе“, рече Стефановиќ.
Тој ги наведе системите што би предвиделе дали некој ќе стори кривично дело, како и препознавањето на емоциите на работното место, како забранети примери.
„Препознавањето на емоциите е дозволено за некои психотерапевтски цели, психолошки истражувања. Таму е со висок ризик, но тука е забрането“, додава Стефановиќ.
Од друга страна, системите што се користат за анализа на работните биографии за време на вработувањето или за проценка на кредитната способност ќе бидат класифицирани како високоризични и ќе бараат посебни правила.
„Ваквите системи директно влијаат на правата и слободите на граѓаните и затоа за нив ќе се применува построг режим на контрола“, нагласи Стефановиќ.
Гњатовиќ истакнува дека Србија е меѓу првите земји што ја препознаваат важноста на вештачката интелигенција.
„Ние ја презедовме водечката улога во регионот со усвојување на првата стратегија за развој на вештачката интелигенција, инвестирање во инфраструктура и поддршка на стартап заедницата. Ќе бидеме меѓу првите земји што ќе имаат национална правна рамка за оваа област“, рече Гњатовиќ.
Тој наведува дека законот во голема мера ќе биде усогласен со законот на Европската унија за вештачка интелигенција, но дека е подеднакво важно да не го забави развојот на домашниот ИТ сектор.
„Важно е за нас да ги заштитиме граѓаните кои користат различни модели на вештачка интелигенција, но исто така и законот на никаков начин да не го спречува понатамошниот развој на секторите за информатичка технологија и вештачка интелигенција. Безбедна законска рамка им помага на компаниите кои сакаат да работат во Србија и на нашите компании кои ги пласираат своите производи на европскиот пазар“, истакна државниот секретар.
Зборувајќи за надзорот, Стефановиќ изјави дека централната улога ќе ја играат Министерството за наука, технолошки развој и иновации, како и неколку други институции.
„Предвидено е формирање на Агенција за вештачка интелигенција, која ќе го следи спроведувањето и ќе има овластување да го суспендира тестирањето доколку добие извештај за инцидент или доколку добие известување од претпоставениот.“
