Anthropic föreslår USA-lag som tillåter regeringen att stoppa AI-modeller som utgör allvarliga risker.

Amerikanska AI-företaget Anthropic har tagit fram ett förslag till ny lagstiftning som nu cirkulerar bland ledamöterna i den amerikanska kongressen i Washington. Förslaget efterlyser statlig reglering och starkare skyddsåtgärder inom AI-branschen, enligt uppgifter till tidningen.

Anthropic, som grundades 2021 av tidigare medarbetare från OpenAI, är ett av de mest framträdande företagen inom utvecklingen av avancerade AI-system. Företaget ligger bakom AI-assistenten Claude och har sedan starten profilerat sig som en aktör med starkt fokus på säkerhet och ansvarsfull utveckling av artificiell intelligens. Att ett av branschens ledande företag självt tar initiativ till hårdare reglering är anmärkningsvärt och signalerar en förändrad inställning i sektorn.

Initiativet kommer i en tid då AI-industrin står inför ett allt intensivare granskande från både politiskt håll och allmänheten. Den explosionsartade utvecklingen av generativa AI-verktyg under de senaste åren har väckt såväl optimism om teknikens enorma potential som oro över riskerna med okontrollerad användning. Frågor som rör integritet, upphovsrätt, spridning av desinformation och algoritmisk partiskhet har hamnat högt på den politiska dagordningen i flera länder.

USA har hittills intagit en mer avvaktande hållning till AI-reglering jämfört med EU, som förra året antog världens första heltäckande AI-lagstiftning – EU:s AI-förordning. Medan Europa har etablerat ett omfattande regelverk som kategoriserar AI-tillämpningar utifrån risknivå, saknas fortfarande ett övergripande ramverk på federal nivå i USA. I stället har initiativen främst kommit från delstatsnivå, där bland annat Kalifornien har föreslagit flera lagar som rör AI-säkerhet.

Anthropics förslag skulle kunna bryta det dödläge som råder i Washington, där kongressen under flera år har diskuterat AI-reglering utan att nå konkreta resultat. Enligt uppgifter har företaget fört diskussioner med både republikanska och demokratiska ledamöter i syfte att skapa ett brett stöd för förslaget. Detta tvåpartiska tillvägagångssätt ses av bedömare som en medveten strategi, med tanke på hur polariserat det politiska landskapet är i frågor som rör teknik och innovation.

Förslaget lär inte heller möta starkt motstånd ur ett rent marknadsmässigt perspektiv. Flera av branschens största aktörer – däribland OpenAI, Google och Microsoft – har under det senaste året uttryckt stöd för någon form av reglering. Det kan tyckas paradoxalt, men förklaringen ligger i att tydliga regler skapar förutsägbarhet och stabilitet för företagen. Med ett regelverk på plats minskar risken för att enskilda delstater inför splittrade och oförutsägbara lagar som försvårar för den nationella marknaden.

Ur ett marknadsperspektiv kan en federal reglering också innebära att mindre aktörer får svårare att hävda sig, eftersom efterlevnadskostnaderna kan bli betydande. Samtidigt skulle det kunna gynna etablerade företag som redan investerat i säkerhets- och efterlevnadsåtgärder. Detta är en dynamik som brukar känneteckna teknikbranschen när nya regelverk införs – de stora spelarna har resurser att anpassa sig, medan uppstickare kan få svårare att ta sig in på marknaden.

Bortom de kommersiella aspekterna handlar frågan i hög grad om förtroende. Flera undersökningar visar att allmänhetens förtroende för AI-teknik är skört, och en betydande andel amerikaner uppger att de är oroade över AI:s påverkan på deras vardag. Större transparens och tydligare ansvarsutkrävande skulle enligt många bedömare vara ett steg mot att stärka förtroendet för tekniken i bredare befolkningsgrupper.

Anthropics förslag befinner sig ännu i ett tidigt skede och det återstår att se hur det tas emot i kongressen. Men det faktum att ett av de mest inflytelserika företagen i AI-branschen självt tar initiativ till reglering kan bli en vändpunkt i debatten. Det visar att branschen inte längre enbart uppfattar reglering som ett hot, utan som en nödvändighet för att kunna utvecklas på ett hållbart sätt i framtiden. Hur kongressen väljer att svara återstår att se, men förslaget har åtminstone satt AI-reglering högt upp på den politiska agendan igen.