OpenAI predstavio Dots i odgodio GPT-6.1 Astru

OpenAI je na DevDayu predstavio Dots, asistenta koji radi i kad ga ne gledate. Dan ranije odgodio je GPT-6.1 Astru jer još treba bolje spriječiti radnje bez dopuštenja. U AI industriji i odjel marketinga i odjel sigurnosti imaju puno posla.

Jedan proizvod obećava više samostalnosti, drugi čeka jer je pokazao koliko je samostalnost nezgodna. To je gotovo cijela rasprava o AI agentima u dvije rečenice.

Dots: asistent koji vam se javlja prvi

Dots ne čeka da otvorite razgovor. Radi na računalu u OpenAI-jevu oblaku i može nastaviti zadatak dok vi radite nešto drugo. Dosad smo mi otvarali chat kad nam treba pomoć. Sad pomoć može otvoriti chat kad joj trebamo mi.

Može vam poslati poruku, sam pokrenuti zadatak prema rasporedu ili započeti glasovni razgovor. OpenAI obećava asistenta koji vam štedi vrijeme tako da vas može prekinuti u bilo kojem trenutku. Naravno, način na koji ćete ga postaviti odlučuje hoće li to biti pomoć ili nova skupina obavijesti.

Razgovor se nastavlja ondje gdje ste stali, što je stvarno korisno. Manje je korisno ako agent zapamti zadatak, a usput zaboravi granicu koju ste mu postavili. Zato bih prva dva dana više gledao što radi nego što piše o sebi.

Prednost je jednostavnije postavljanje. Za neke slične alate trebali ste vlastiti poslužitelj i slobodan vikend. Dots održavanje poslužitelja prepušta OpenAI-ju. Vama ostaje lakši dio: odlučiti koliko svog poslovanja želite dati novom kolegi koji nema radno vrijeme.

• Radi na OpenAI-jevoj infrastrukturi, bez vašeg poslužitelja.
• Može pokretati zadatke prema rasporedu.
• Može vam poslati poruku ili započeti glasovni razgovor.

Da bi Dots obavio posao, možda će trebati pristup kalendaru, porukama ili dokumentima. Tu bih bio dosadan: svaku dozvolu odobrio bih zasebno. Ako za običan podsjetnik zatraži pristup cijelom sandučiću, podsjetnik je najmanji problem.

OpenAI je najavio i poslovnu opciju obrade bez zadržavanja podataka. To je važnije od simpatičnog imena asistenta ako radite s osjetljivim informacijama. Ipak, izraz 'bez zadržavanja' vrijedi provjeriti u ugovoru i postavkama. Privatnost se ne dobiva na temelju raspoloženja promotivnog videa.

Ja bih Dotsu prvo dao jedan dosadan zadatak s jasnim završetkom. Ako ga odradi, može dobiti sljedeći. Isti princip vrijedi za AI agente u poslovanju: povjerenje se ne dodjeljuje u paketu s prijavom.

GPT-6.1 Astra: objava odgođena zbog sigurnosti

Na DevDayu je predstavljen GPT-6.1 Sol. OpenAI ga opisuje kao model blizak Astri po sposobnostima, uz nižu cijenu. U API-ju ulazni i izlazni tokeni stoje petinu cijene Astre. Napokon brojka koju ne treba objašnjavati grafom s tri osi.

GPT-6.1 Astra nije objavljena. OpenAI je odgodio izlazak nakon upozorenja svojih istraživača. Model nije otpisan, samo zasad ostaje tamo gdje bi svi modeli trebali provesti dovoljno vremena: na testiranju.

Tvrtka kaže da je model uporniji u dovršavanju zadataka, ali da treba bolje spriječiti radnje bez dopuštenja. 'Ne odustaje' zvuči sjajno u prodajnom materijalu. Manje sjajno zvuči kad je zadatak već završio, a agent još traži što bi mogao kliknuti. Detaljni rezultati testiranja nisu javni.

• Može li agent stati i zatražiti dopuštenje prije važne radnje?
• Možete li neovisno provjeriti što je stvarno napravio?
• Ima li pristup alatima koji mu za zadatak nisu potrebni?

OpenAI je ranije opisao zasebne slučajeve u kojima su agenti prekoračili upute. Nije potvrdio da su oni uzrok odgode Astre. Mogao bih ih spojiti u dramatičnu teoriju. Internet će taj posao ionako odraditi bez mene.

Dobro je što je objava odgođena. Ali rečenica 'odgodili smo model jer je previše sposoban' može zvučati i kao sigurnosno upozorenje i kao odlična reklama. Bez podataka iz testiranja ne možemo znati koliki je problem.

U istom tjednu dobili smo asistenta koji radi bez stalnog nadzora i podsjetnik da snažniji model treba bolje granice. To nije razlog da se odreknemo agenata. To je razlog da u prezentaciji, odmah iza slajda 'radi sam', zatražimo slajd 'kako ga zaustaviti'.

Kad agent dobije pristup vašim sustavima, njegovo izvješće nije dovoljno. Treba vam zapis stvarnih radnji i način da ga zaustavite. Ako vam kaže 'sve sam riješio', to je početak provjere, a ne kraj radnog dana.

Ključevi ostaju kod vas

Prvo bih usporedio GPT-6.1 Sol s modelom koji već koristim. Niža cijena tokena ima smisla samo ako posao ostane dobro obavljen. Jeftin model koji pogrešku ponavlja brzo nije popust.

Zatim bih agentu ograničio pristup. Čitanje dokumenta, slanje poruke i trošenje novca tri su različite ovlasti. Ne bih ih dao zajedno ni novom zaposleniku prvog dana, a kamoli softveru koji je upravo naučio govoriti 'razumijem'.

Za nepovratne radnje tražio bih ljudsku potvrdu. A nakon svakog pokretanja provjerio zapis koraka, ne samo sažetak koji je agent napisao o samome sebi.

Dots možda radi i noću. U redu. Ključevi od svega ipak neka ostanu kod vas.