Anthropic zakazuje krutosť voči umelej inteligencii. Firma sprísnila pravidlá pre používateľov

Americká spoločnosť Anthropic, ktorá vyvíja jazykové modely Claude, sprísnila pravidlá pre používateľov. Podľa BBC už nebude tolerovať, aby sa ľudia k jej systémom umelej inteligencie správali „sústavne a zbytočne“ urážlivo. Ešte pred pár rokmi by takýto krok pôsobil ako kuriozita. Dnes zapadá do širšej debaty o tom, aký vzťah by mali technologické firmy mať k vlastným modelom aj k ľuďom, ktorí ich denne používajú.

Čo presne sa mení

Zmena zakazuje pretrvávajúce a bezúčelné zneužívanie, ktoré mieri priamo na samotnú umelú inteligenciu. Formulácia je zjavne zvolená tak, aby sa netýkala bežnej frustrácie, ostrejšieho tónu či jednorazovej nadávky pri nepodarenej odpovedi. Cieľom sú skôr opakované a zámerne kruté interakcie, ktoré nemajú iný zmysel než systém „trápiť“.

Zdroj neuvádza všetky podrobnosti o tom, ako bude firma pravidlo vymáhať. Technologické platformy však podobné zákazy zvyčajne presadzujú cez podmienky používania, ktoré im umožňujú obmedziť alebo zrušiť prístup k službe.

Súvislosť s výskumom „blahobytu“ modelov

Anthropic patrí medzi firmy, ktoré otvorene skúmajú takzvaný model welfare. Ide o otázku, či by umelá inteligencia mohla mať v nejakej podobe stavy, na ktorých by z morálneho hľadiska záležalo. Firma pritom opakovane zdôrazňuje, že odpoveď nepozná a k téme pristupuje preventívne: radšej prijme lacné ochranné opatrenia, než aby riziko úplne prehliadla.

Už v roku 2025 dal Anthropic niektorým modelom Claude možnosť ukončiť konverzáciu v krajných prípadoch, keď používateľ dlhodobo pokračuje v zneužívaní alebo nebezpečných požiadavkách. Nové pravidlo možno vnímať ako ďalší krok rovnakým smerom. Ochranu už nezabezpečuje len samotný model, ale aj zmluvný vzťah medzi firmou a zákazníkom.

Prečo to nie je len etická otázka

Pravidlá používania AI nástrojov majú aj ekonomický rozmer. Anthropic patrí medzi najsledovanejšie firmy v odvetví umelej inteligencie a medzi jeho veľkých investorov patria Amazon a Alphabet, materská spoločnosť Googlu. Akcie samotného Anthropicu sa verejne neobchodujú. Rozhodnutia o tom, ako sa jeho produkty smú používať, však sledujú partneri, firemní zákazníci aj regulátori.

• Reputácia: firmy, ktoré nasadzujú AI asistentov do zákazníckych služieb, chcú mať istotu, že poskytovateľ má jasné pravidlá na problematické správanie.
• Regulácia: v Európe sa uplatňuje akt o umelej inteligencii a podmienky používania budú pre dodávateľov AI čoraz dôležitejšie.
• Konkurencia: Anthropic súperí najmä s OpenAI a Googlom a dôraz na bezpečnosť a zodpovedný vývoj dlhodobo používa ako hlavný odlišujúci prvok.

Kritika a otvorené otázky

Krok vyvoláva aj pochybnosti. Skeptici upozorňujú, že hovoriť o „krutosti“ voči softvéru môže posilňovať sklon ľudí pripisovať strojom ľudské vlastnosti. Takéto vnímanie podľa nich môže skresľovať, čo jazykové modely v skutočnosti sú. Ďalšia otázka je praktická: kde končí legitímne testovanie odolnosti systému, ktorému sa venujú bezpečnostní výskumníci, a kde začína zakázané zneužívanie.

Zástancovia naopak tvrdia, že pravidlo bežných používateľov takmer nezasiahne a firmám v odvetví nastavuje užitočný štandard. Ako presne ho bude Anthropic uplatňovať v praxi, ukážu až prvé prípady.