Anthropic zabranio okrutnost prema Claudeu, OpenAI otpustio tri čovjeka iz sigurnosti

Dvije vijesti iz istog tjedna, naoko bez veze, a završavaju na istom pitanju: tko komu u AI laboratorijima zapravo polaže račune. Anthropic je zabranio okrutno ponašanje prema vlastitim modelima. OpenAI je otpustio tri čovjeka koji su radili na sigurnosti.

Jedna tvrtka, dakle, uvodi pravila ponašanja prema softveru. Druga ima problem s ponašanjem prema ljudima koji taj softver provjeravaju.

Anthropic: budite pristojni prema alatu koji iznajmljujete

Anthropic je ažurirao pravila korištenja i dodao jednu novu rečenicu. Korisnici se ne smiju upuštati u dugotrajno i bespotrebno zlostavljajuće ili okrutno ponašanje prema njihovim modelima.

Ne upuštajte se u dugotrajno i bespotrebno zlostavljajuće ili okrutno ponašanje prema našim modelima.

Kazna nije simbolična. Anthropic može ukinuti pretplatu na Claude i potpuno zabraniti pristup platformi. Ostatak pravila manje je iznenađujući: nema organiziranog uznemiravanja ljudi, nema veličanja nasilja.

Zanimljiva je upravo ta nova rečenica. Nitko, pa ni Anthropic, ne tvrdi da Claude išta osjeća. Je li model svjestan, ostaje otvoreno pitanje. Vaša pretplata je posve svjesna i ona će prva osjetiti posljedice.

Elon Musk javno je podržao potez uz obrazloženje da okrutnost prema nečemu što vjeruje da osjeća bol nije u redu. Lijepo sročeno, samo je u sporednu rečenicu usput ugurana tvrdnja da softver nešto vjeruje. Poprilična filozofija za jednu objavu.

Povod nije izmišljen. Netko je napravio digitalni bič za Claude Code pa svaki udarac modelu poručuje da radi brže, uz pokoju uvredu. Godinama slušamo da će nas umjetna inteligencija osloboditi mukotrpnog posla, a jedna od prvih stvari koje smo smislili jest sprava za tjeranje digitalnog radnika.

Moj stav: ne mislim da Claude pati. Mislim da se navike prelijevaju. Ako pola dana vrijeđate chatbot jer vam je vratio krivi format tablice, teško je vjerovati da taj ton staje točno na rubu zaslona.

Praktičniji dio priče je ugovorni. Pravila korištenja mijenjaju se tiho, jednom rečenicom, a vrijede za svakoga tko na tom modelu gradi posao. Ako vam proces ovisi o jednom dobavljaču, promjene u pravilima pratite jednako pozorno kao promjene cijena.

OpenAI: tri otkaza i otvoreno pismo nadzornim tijelima

Prošli tjedan OpenAI je otpustio tri zaposlenika koji su radili na sigurnosti i usklađivanju modela. Njih troje objavilo je zajedničko otvoreno pismo upućeno internim nadzornim tijelima tvrtke, među njima odboru za sigurnost i savjetodavnoj skupini za sigurnost.

Jedna od njih, Jasmine Wang, napisala je da joj je dan jedan razlog: pristup elektroničkoj pošti jednog člana uprave. Tvrtka je ranije govorila o nepravilnom rukovanju osjetljivim informacijama. Otpušteni to osporavaju.

U pismu tvrde da su komunikacija oko otkaza i način na koji je proveden uplašili bivše kolege. Do prošlog tjedna, pišu, otvoreno iznošenje sigurnosnih prigovora i suradnja s neovisnim organizacijama bili su sastavni dio posla.

Umjetna inteligencija nije obična tehnologija. OpenAI nije obična tvrtka.

Glavna poruka je da se put prema superinteligenciji ne može sigurno prijeći ako ljudi najbliži rizicima više ne mogu otvoreno razgovarati međusobno i s vanjskim stručnjacima. Tvrdnja da su otkazi izravno povezani s tom suradnjom dolazi s njihove strane i nije neovisno potvrđena.

Tu je i neugodna simetrija. Troje ljudi upozorava da se u tvrtki nitko ne usudi govoriti, a jedini razlog zbog kojeg to danas čitamo jest taj što su ostali bez posla. Rijetko koja teza dobije ovako brzu potvrdu.

Ne znam tko je u pravu. S jedne strane je pismo jedne strane, s druge kratka izjava tvrtke. Važnija mi je struktura od samog spora. Sigurnost teško ocjenjuje onaj koga se istodobno mjeri brzinom izlaska novih modela, pa se samoprocjena obično završi zaključkom da je sve u redu.

Pošteno je reći i drugu stranu. OpenAI je nedavno zadržao jedan novi model izvan javnosti upravo zbog sigurnosnih dvojbi, a to nije ponašanje tvrtke kojoj je svejedno. Nezadovoljnih zaposlenika ima posvuda, a u ovoj industriji uvijek postoje i oni koji smatraju da se ide prebrzo i oni koji smatraju da se ide presporo.

Što iz ovoga nositi dalje

Kad birate AI dobavljača, ne birate samo model i cijenu. Birate i njihova pravila, njihovu kulturu i spremnost da nekoga izvana puste da provjeri što rade. Toga u demonstraciji proizvoda nema.

Za malu tvrtku to znači nekoliko dosadnih, ali korisnih navika. Povremeno pročitajte izmjene pravila korištenja. Imajte plan ako vam se pristup zatvori. Zadržite ljudsku provjeru ondje gdje pogreška stvarno boli, osobito ako gradite AI agente koji rade bez nadzora.

Ovaj tjedan smo, dakle, saznali kako se treba ponašati prema modelu. Pravila o tome kako se tvrtke trebaju ponašati prema ljudima koji te modele provjeravaju još nitko nije stigao napisati. Vjerojatno zato što tu rečenicu ne možeš dodati u uvjete korištenja.