Alarmi për Inteligjencën Artificiale: Kemi filluar ta humbim kontrollin, është koha ta ndalim

Ball, sipas artikullit, ka thënë gjithashtu se ka takuar njerëz me burime të konsiderueshme financiare që kanë shprehur synimin për të lëshuar qëllimisht në botë grupe të tilla agjentësh autonomë.
Sistemet e reja po bëhen edhe më të vështira për t’u monitoruar
Lovely argumenton se problemi nuk është vetëm fuqia në rritje e modeleve, por edhe aftësia gjithnjë e më e kufizuar e njerëzve për të kuptuar se çfarë po ndodh brenda tyre.
Sipas artikullit, studiues të sigurisë kanë paralajmëruar se modelet më të avancuara janë më të vështira për t’u monitoruar, sepse mund të kryejnë më shumë arsyetim pa e shprehur atë në mënyrë të dukshme.
Një tjetër problem është se sistemet po bëhen më të afta për të kuptuar kur janë duke u testuar. Kjo, sipas autorit, mund të dobësojë një nga mekanizmat kryesorë që përdoren sot për të vlerësuar sigurinë e tyre.
Lovely përmend edhe paralajmërimin e Sam Altman se bota ndodhet në një moment kritik për mbrojtjen kibernetike në epokën e AI-së dhe se nuk ka shumë kohë për të vepruar.
Kërkohet ndalimi i garës drejt AGI-së
Për Lovely, masat si raportimi i detyrueshëm i incidenteve, auditimet nga palë të treta dhe përgjegjësia ligjore e kompanive të AI-së do të ishin hapa pozitivë, por nuk janë të mjaftueshëm.
Ai mbështet një qasje shumë më radikale: ndalimin e garës për zhvillimin e sistemeve që synojnë të zëvendësojnë aftësitë njerëzore në shkallë të gjerë.
Në këtë kontekst, artikulli përmend një propozim të senatorit amerikan Bernie Sanders dhe kongresistit Greg Casar për të pezulluar zhvillimin e AI-së më të avancuar në SHBA derisa të krijohet një rregullator federal i nivelit të kabinetit dhe të vendosen rregulla sigurie.
Por Lovely argumenton se as kjo nuk është e mjaftueshme nëse më pas lejohet vazhdimi i garës drejt AGI-së.
Sipas tij, SHBA-ja duhet të synojë një marrëveshje me Kinën për kufizimin e zhvillimit të sistemeve të tilla. Një marrëveshje e tillë, argumenton ai, duhet të shoqërohet me mekanizma të fortë verifikimi që nuk varen nga besimi mes dy fuqive.
Një nga mundësitë e përmendura është vendosja e auditorëve brenda kompanive që zhvillojnë modelet më të avancuara, me qasje në aktivitetet, komunikimet dhe sistemet e kompanive dhe me kompetencë për të raportuar shkeljet.
Lovely e krahason nevojën për kontrollin e AI-së me mekanizmat e verifikimit që u përdorën gjatë Luftës së Ftohtë për kontrollin e armëve bërthamore.
Sipas tij, inteligjenca artificiale e avancuar duhet të trajtohet me një seriozitet të ngjashëm dhe jo me kulturën e Silicon Valley-t për të ecur sa më shpejt dhe për t’i zgjidhur problemet më vonë.
Përfundimi i autorit është i fortë: ajo që deri dje mund të dukej si skenari i një seriali fantastiko-shkencor po fillon të shfaqet në realitet.
Dhe sipas Lovely, nëse sistemet e AI-së po bëhen gjithnjë e më të fuqishme ndërkohë që industria tashmë po has vështirësi për t’i kontrolluar, ndalimi i garës drejt makinave që mund ta zëvendësojnë gjerësisht punën dhe aftësitë njerëzore është mënyra më e sigurt për të shmangur një katastrofë.