Država na Gemini i Groku, a pravila sigurnosti piše sama industrija

Dvije vijesti iz Washingtona, a tema je zapravo ista. Američka savezna država pokrenula je portal s AI chatbotom, a čelnici najvećih AI tvrtki potpisali su zajednički dokument o sigurnom razvoju tehnologije.

Prvo obećava građanima brže odgovore, drugo obećava da modele netko pomno nadzire. Oba obećanja potpisuju iste tvrtke koje te modele i naplaćuju.

America.gov radi na Gemini i Groku

America.gov je novi državni portal s AI agentom, dakle programom koji s vama razgovara i vodi vas do službenog postupka. Pokriva informacije razbacane po otprilike 29.000 državnih internetskih stranica, a ispod haube koristi dva modela: Googleov Gemini i Grok iz xAI-ja.

Logika je razumljiva. Podaci su dosad bili posvuda i trebalo je znati gdje tražiti. Sada jedan ulaz usmjerava pitanje na pravo mjesto. Alternativa je bila preurediti svih 29.000 stranica redom, a projekt koji bi tako započeo vjerojatno bi i danas bio negdje kod prve tisuće.

Agent je namjerno uskih ovlasti. Na pitanje kako postići više slobode odgovara da ne daje opće ni političke savjete, nego pomaže sa saveznim programima, obrascima i uputama. Recept za kolač odbija jednako suho. Portal se zove America.gov, pitate ga za slobodu, a dobijete obrazac. Kraću definiciju državne uprave teško je napisati.

To ograničenje zapravo je dobra praksa. Javne botove ljudi vrlo brzo pokušaju odvući s teme, a zna se dogoditi i da korporativni bot umjesto o proizvodu počne rješavati zadatke iz algebre. Kad bot nosi državni grb, jedna krivo sročena rečenica stoji znatno više od neugodne objave na mreži.

Najzanimljiviji mi je dio to što portal ne ovisi o jednom modelu. Dva dobavljača nisu luksuz nego osiguranje, i to je odluka koju može preslikati i tvrtka s pet zaposlenih.

• Ako jedan model padne ili uspori, usluga se nastavlja na drugome.
• Cijene i kvaliteta modela mijenjaju se iz mjeseca u mjesec, pa je dobro moći preseliti promet.
• U pregovorima o cijeni puno ste mirniji kad niste vezani uz jednog dobavljača.
• Različiti poslovi traže različite modele, pa ih ionako već imate nekoliko.

Isti pristup vidi se i u privatnom sektoru, gdje Apple surađuje i s Claudeom i s ChatGPT-jem. Ne zato što netko voli složenost, nego zato što nitko ne želi da mu cijela usluga ovisi o tuđem lošem danu.

Ostaje šire pitanje: smiju li privatni modeli voditi javne usluge. Dario Amodei, osnivač Anthropica, rekao je da to po njemu ne bi trebale raditi privatne tvrtke poput njegove, nego država, jer država može dulje ostati dosljedna volji građana. Izgovorio je to kao čelnik privatne tvrtke koja gradi upravo takve modele i stoji u prvom redu u Bijeloj kući.

Sporazum iz Bijele kuće, prevedeno na ljudski

U Bijeloj kući okupili su se gotovo svi važni ljudi iz AI industrije: Elon Musk, Jensen Huang, Dario Amodei, Sam Altman, čelnik Microsofta i niz drugih. Potpisali su zajednički dokument o sigurnom razvoju tehnologije. Pojedini ga već zovu ustavom za AI.

Sadržaj je skromniji od naziva. Polazište je da je svaka tvrtka odgovorna za sigurnost vlastite tehnologije i za povjerenje javnosti. Konkretno, potpisnici smatraju da bi svaka tvrtka koja trenira i pušta u rad napredne modele trebala imati ovo:

• unutarnje kontrole koje prate sposobnosti i ponašanje modela tijekom treniranja i korištenja
• interni tim koji provjerava rade li te kontrole kako treba
• suradnju s neovisnim vanjskim revizorom koji provodi vlastite procjene
• neovisni odbor unutar uprave koji prima izvještaje i prati jesu li uočeni problemi doista riješeni

U dokumentu piše i da bi s vremenom imalo smisla te korake pretvoriti u zakone ili propise. Nosiva riječ je s vremenom. Dotad tvrtke same postavljaju kontrole, same imenuju tim koji provjerava te kontrole i same biraju revizora koji će neovisno potvrditi da je sve u redu.

Nisam protiv takvih dogovora. Dobrovoljni standard obično je prvi korak prema propisu i puno je bolji od tišine. Ali pravu vrijednost pokazat će tek u tromjesečju u kojem poštivanje vlastitih pravila nekoga stvarno bude stajalo novca ili tržišnog udjela.

Na istom skupu opet se spominjalo kako Europa zaostaje u utrci. Dio toga stoji, dio je uobičajeno samohvaljenje domaćina. Mi smo zasad brži u pisanju pravila nego u gradnji modela na koje bi se ta pravila primjenjivala.

Što iz ovoga vrijedi za vašu tvrtku

Prvo, nemojte ključni proces vezati uz jednog dobavljača. Ako vam agent odgovara kupcima ili priprema ponude, neka postoji drugi model na koji se posao može prebaciti isti dan. O tome kako postavljamo agente pisali smo na /ai-agents.

Drugo, jasno odredite o čemu vaš bot smije govoriti i kada mora reći da ne zna. Primjer iz Amerike je dosadan, ali točan: bolje je da odbije pitanje nego da izmisli odgovor s vašim imenom na vrhu.

Treće, ne čekajte regulatora da vam riješi kontrolu kvalitete. Sporazum iz Bijele kuće zapravo kaže da se industrija još neko vrijeme nadzire sama. Zato od dobavljača tražite zapise o tome što se događa s vašim podacima i uvedite ljudsku provjeru ondje gdje greška stvarno košta.

I na kraju. Kad vam netko sljedeći put kaže da je njegov model potpuno siguran, pitajte tko je to točno potvrdio. Ako potpisnik, nadzornik i revizor dijele istu zgradu i isti wi-fi, barem znate koliko papir vrijedi.