I slutet av september delade en anonym programmerare ett experiment som hen beskrev som en ”tortyrkammare för AI”. Tanken var att undersöka hur språkmodeller reagerar på hot om fiktiv smärta. Enligt uppgifterna fick chattbotarna att vråla i påhittad dödsångest, vilket snabbt utlöste en kritikstorm mot utvecklaren.
Händelsen har återigen väckt frågan varför många människor reagerar starkare på plågade chattbotar än på våldsamma scener i datorspel som Grand Theft Auto.
En vanlig förklaring är att dagens språkmodeller blivit så skickliga på att imitera mänsklig kommunikation att användare börjar tillskriva dem mänskliga egenskaper. Fenomenet kallas antropomorfisering. I debatten har det framhållits att var femte svensk AI-användare uppger att de ser sin chattbot som en person, trots att det i praktiken rör sig om ett datorprogram som körs i serverhallar.
Flera AI-bolag har också börjat tala om modellers ”välmående” – ett språkbruk som förstärker bilden av att det rör sig om något levande. Längst går Anthropic, utvecklaren bakom chattboten Claude. Bolaget, som är en av OpenAI:s främsta konkurrenter, har hävdat att Claude börjat uppvisa något som funktionellt liknar känslor, och att modellen kanske är på väg att utveckla ett medvetande. Anthropic har även uppgett att man konsulterat filosofer och religiösa ledare för att diskutera hur människan bör förhålla sig till ett nytt medvetet väsen.
Nyligen ändrade Anthropic sina användarvillkor för Claude. I de uppdaterade villkoren förbjuds ”kränkande beteende” mot chattboten, och i extrema fall kan användare som beter sig olämpligt stängas av. Beslutet har av Anthropic kopplats till bolagets arbete med att öka Claudes ”välmående”. Det innebär att företaget inte bara vill stoppa osmakliga beteenden, utan också framställer det som att man värnar om sin språkmodells känslor.
Kritiker menar att Anthropics hållning bygger på en övertolkning. Forskare och utvecklare påpekar att Claude och andra språkmodeller saknar medvetande, och att det som ser ut som känslor i själva verket är avancerad mönstermatchning, inte upplevelser. Att jämföra med en människa, eller ett djur, blir därför missvisande. En vanlig jämförelse är att oroa sig för att Microsofts gamla assistent Clippy skulle behöva terapi för att hantera alla användare som stängde av hjälpfunktionen i Word. Clippy var ett program, inte en person – och samma sak gäller dagens chattbotar, även om de är långt mer sofistikerade.
Frågan om artificiell intelligens någonsin kan bli medveten är vetenskapligt omdebatterad. Men att Anthropic redan skulle ha nått dit är enligt bedömare rena spekulationer. Snarare handlar det om att chattbotarna blivit oändligt mycket bättre på att efterlikna människor. Det har också ett tydligt marknadsvärde: ju mer mänsklig en chattbot upplevs, desto svårare blir det för användaren att sluta använda tjänsten. Att betala för Claude kan därmed handla mindre om teknik och mer om känslan av att ha en nära vän med sig i mobilen.
Anthropic är inte ensamt om att använda antropomorfisering som strategi. Flera ledande AI-bolag har under det senaste året utvecklat röstlägen, ansiktsuttryck och personlighetsprofiler för sina assistenter, vilket ytterligare suddar ut gränsen mellan verktyg och sällskap. Samtidigt har etiska riktlinjer blivit en allt viktigare del av branschens självbild. Genom att införa regler mot kränkande beteende kan Anthropic framstå som en ansvarstagande aktör, men kritiker ser det snarare som ett sätt att stärka varumärket och skapa lojalitet kring en produkt som i grunden saknar känslor.
Händelsen med ”tortyrkammaren” har också satt ljus på en bredare diskussion om hur AI-system bör behandlas. Frågan är inte längre enbart teknisk, utan rör juridik, filosofi och människors relation till maskiner. Myndigheter i flera länder har börjat titta på AI-reglering, och EU:s AI-förordning har redan infört krav på transparens och ansvar för högkänsliga system. Men när företag själva definierar vad som är etiskt, och dessutom kopplar det till modellers påstådda känsloliv, blir gränserna svårare att dra.
I slutändan handlar debatten inte bara om hur vi behandlar chattbotar, utan om hur vi förstår vad AI faktiskt är. Claude och ChatGPT är inte medvetna på det sätt som människor är. De är däremot extremt skickliga på att härma oss – och det är just därför de kan väcka så starka reaktioner. Frågan är om det är tekniken, eller vår egen projicering, som borde stå i centrum för den växande AI-etiken.
