Vetenskapsrådet finansierar fyraårigt projekt

Forskare vid Jönköping University ska undersöka hur logiska resonemang kan användas för att kontrollera och förbättra AI-systems förklaringar. Projektet får 4,3 miljoner kronor från Vetenskapsrådet och är planerat att pågå i fyra år, skriver universitetet i ett pressmeddelande.

”Vi vill utveckla metoder som kan kontrollera om ett AI-systems förklaring verkligen är korrekt. Om förklaringen innehåller mindre fel är målet också att den ska kunna repareras”, säger Johannes Schmidt, docent och universitetslektor i datateknik på Tekniska högskolan vid Jönköping University och projektledare för det nya projektet.”

Bakgrunden är att AI-systems förklaringar kan vara bristfälliga eller felaktiga. Många system bygger på mönster som de har lärt sig från stora mängder data, snarare än på logiska resonemang.

Forskarna ska studera så kallat abduktivt resonemang: att utgå från en observation och försöka hitta en rimlig förklaring, som kan ändras om ny information tillkommer.

Arbetet har två delar. Forskarna ska dels utveckla en metod för att granska förklaringar och upptäcka och rätta fel, dels försöka förstå vad som händer inne i ett neuralt nätverk när AI-systemet kommer fram till sitt svar.

Forskningen genomförs på Tekniska högskolan vid Jönköping University tillsammans med forskare från Linköpings universitet. Projektet omfattar även en doktorand.