IDG-företaget byggde egen AI-chatrobot – klarar att säga: ”jag vet inte”
Vill du jobba med AI-teknik på redaktionen? Det gäller att börja med att ställa följande fråga:
”Vilket problem vill du att artificiell intelligens (AI) ska lösa?” Det säger Neil Bennett som är global direktör för produkter och data på konsumentsidan på Foundry (tidigare IDG Communications).
Han var med och tog fram Foundrys nya AI-tjänst Smart Answers. En AI-söktjänst på Foundrys engelskspråkiga magasin som är tränad enbart på Foundrys journalistik.
Specifikt för Smart Answers är att den inte ska hallucinera. Det vill säga Smart Answers ska inte hitta på svar, på det sätt som generativ AI-teknik ofta kritiserats för att göra.
– Det gäller att ha en bra idé. Det kan vara i liten skala, eller i stor skala, men det måste vara något som hjälper publiken, råder Neil andra publicister.
Underlättar för användarna
Målet är inte att Smart Answers ska ge svar på alla världens frågor. Tjänsten ska hjälpa just Foundrys läsare, med de specifika frågor de har när de besöker tidningssajterna.
– Vi har riktigt bra och omfattande journalistik, som till stor del är inriktad på teknikprodukter och tjänster. Våra läsare kommer till oss för att de söker råd kring specifika produkter och tjänster, säger Neil.
Många av Foundrys läsare är i en köpprocess när de besöker tekniksajterna Macworld, PCWorld, Tech Advisor och TechHive. De kan komma till tidningen med en specifik fråga: Ska jag köpa en MacBook Air eller MacBook Pro? De här direkta raka frågorna vill Foundry snabbt ge läsarna svar på.
– Vi vill hjälpa människor att välja rätt produkt eller tjänst eller hitta en lösning om de har teknik som inte fungerar som det ska, säger Neil Bennett.
Måste vara ekonomiskt hållbart
Att en AI-satsning behöver ge profit är självklart för Neil.
– Generativ AI är inte billigt när du gör det i den stora skalan, säger Neil.
Globalt sett har Foundrys konsumenttitlar cirka 25 miljoner sidvisningar i månaden. De engelskspråkiga utgåvorna, som Smart Answers-tjänsten är byggd för, utgör cirka 18 miljoner av dessa. Det är med andra ord en stor satsning som Foundry gjort.
– Hur AI-tjänsten ska generera intäkter är något man behöver titta på redan från början, säger Neil Bennett.
För Foundry består intäkterna av annonser och affiliatelänkar, som är geotaggade utifrån vilket land som besökarna kommer ifrån.
Hitta samarbetspartners
Inte ens en gigantisk mediejätte som Foundry (tidigare IDG Communications) kan bygga AI-teknik in house. För publicister som vill utvecklas på det här området är det, i de allra flesta fall, vettigt att hitta en lämplig samarbetspartner.
Redan innan Foundry började utveckla Smart Answers så samarbetade mediehuset med AI-företaget Mezo.ai kring kommersiella verktyg baserade på maskininlärning.
– Vi tänkte på samma sätt. De funderade på hur de skulle kunna skapa en generativ AI – som verkligen är användbart för läsarna – och som inte hade hallucinationsproblemet.
Tränad på Foundrys egen data
Generativ AI är en självlärande AI-teknik för att skapa innehåll som text, bilder, ljud och rörligt utifrån stora mängder data. Stora AI-verktyg som till exempel Open AI:s ChatGPT är tränade på det material som finns på nätet. Men på internet finns både rena lögner och desinformation. Därtill ligger det i generativ AI-tekniks DNA att hallucinera. Men Smart Answers har hämtat all sin kunskap och träning ur Foundrys arkiv.
– För att lyckas med att få en AI-tjänst att inte hallucinera behöver du först och främst ha kontroll över all data som den matas med, enligt Neil Bennett.
Men generativ AI kan också vara väldigt självsäker, hur hanterar ni det?
– Ja, generativ AI beter sig gärna som en duktig student. Vi lade mycket tid på att träna Smart Answers till att inte hitta på svar på frågor, som den inte vet svaret på.
Unikt för tjänsten är att den faktiskt svarar ”I don’t have enough data to Answers that question” när den inte vet svaret.
Identifiera svårigheter längs vägen
Eftersom generativ AI är en självlärande teknik är det inte alltid lätt att förutse vilka svårigheter som utvecklarna kommer stöta på. Smart Answers bygger på artiklar som sträcker sig tillbaka till 1999. Ett gediget arkiv alltså, men under tiden som Smart Answers utvecklades visade det sig att AI-systemet hade svårt att prioritera rätt mellan fakta från 1999 och 2023.
– Vi har mycket information som var sann när den skrevs, men som inte är helt aktuell i dag. Du vet, om vi skrev i en recension att iPhone 11 är den bästa telefonen som någonsin släppts, så var det ju korrekt när artikeln skrevs, men det är ju inte bokstavligen sant längre.
Att träna AI:t att förstå att nyare information är mer korrekt, var en svår utmaning. Men en utmaning som Neil tror att många publicister kan ställas inför.
Lanseringen fick vänta
– Vi vill givetvis inte göra något som skadar vårt varumärke, säger Neil Bennett.
Därför vägrade Foundry att lansera tjänsten Smart Answers innan mediehusets redaktionella team var nöjd med den. I princip byggde Foundry en sandbox, en experimentyta, dit redaktionella medarbetare kunde gå och prova Smart Answers och ställa frågor till tjänsten.
– Vi fick bidrag från hela organisationen. De gick in och ställde frågor och betygsatte svaren. Sedan arbetade Miza och jag med att förbättra svaren. Vi gick i genom fem testomgångar innan redaktionen godkände systemet.
Han medger att det var en skrämmande del av processen.
– När vi hade gjort tre testrundor så började vi undra, hur många fler rundor kommer det här att ta? Men vi ville vara säkra på att vi tillhandahåller en bra tjänst till våra läsare.
Fyra–fem månader från att idén kläcktes kunde Foundry hösten 2023 lansera tjänsten.
På sikt kan transparens bli mindre viktigt
När det kommer till generativ AI är det många svenska mediehus som i sina AI-policies betonat vikten av att vara transparent mot sina läsare om de använder sig av generativ AI för att till exempel generera bilder eller texter. Men Neil är inte tvärsäker på att AI-transparensen kommer vara en så viktig fråga i framtiden.
– Jag är säker på att många av våra läsare som använder Smart Answers inte ens inser att det är AI. De bara ser en fråga och klickar på den, sedan får de ett svar som hjälper dem och så går de vidare.
Om två-tre år tror han att generativ AI inte är lika hajpat längre, och att det kommer bli mindre relevant att vara transparent med om det finns AI-teknik bakom en tjänst.
Smartare med tiden
Smart Answers används av ungefär 10 000 personer per dag och i början av oktober ställdes runt 10 000 frågor dagligen. Smart Answers syns rent grafiskt på flera sätt på magasinssajterna, men främst används tjänsten för att generera frågor i slutet av artiklar. Varje artikel får fem AI-genererade frågor som läsaren, utifrån tjänstens träning, troligen är intresserade av. Frågorna kommer också att bytas ut och ändras utifrån det som Smart Answers lär sig i interaktioner med läsarna. Det går även att ställa frågor i fritext.
– De här frågorna hjälper oss att förstå läsarna. Vi får i realtid veta vad de funderar på. Sedan har vi andra AI-lösningar som hjälper oss att se var kunderna befinner sig i köpcykeln, vilket gör att vi kan ge läsarna rätt annonser och erbjudanden.
Stoppade AI-skrapningen
Generativa AI-tjänster är ju i viss mån en ny konkurrent för publicisterna. Tjänsterna livnär sig på de stora mängder data som AI-verktygen är matade med. För att jämna ut spelplanen har flera internationella och nationella mediehus satt ett stopp för till exempel OpenAI att kunna samla in information från deras mediesajter. Också Foundry har valt den vägen.
– De jobbar inte med trovärdig journalistik, vilket vi gör. Som de flesta andra publicister, The Guardian, The New York Times och så vidare, så stoppar vi OpenAI:s AI-skrapning från våra sajter. Vi gör det eftersom OpenAI inte har frågat oss om lov, men också för att vi inte vill att vår trovärdiga journalistik ska blandas med annat innehåll på nätet, som inte är pålitligt.
Produktens framtid
I dag finns Smart Answers endast på Foundrys kommersiella engelskspråkiga sajter. Men Neil Bennett utesluter inte at Smart Answers även kommer att implementeras på Foundrys B2B-titlar eller magasin på andra språk.
Har ni några planer på att skapa en svensk version?
– Det är något vi definitivt är intresserade av, men vi får se hur det blir framåt.
Foundry är ju en stor organisation. Har ni några tankar om att licensiera den här lösningen till andra medieföretag?
– Det är inte riktigt något jag kan prata om.
Text: Matilda Nilsson
Foto: Dominik Tomaszewski och skärmdumpar
Mer om AI från våra Guider & Verktyg