I artikeln har forskarna använt maskininlärning för att lösa att klassiskt planeringsproblem, som exempelvis kan handla om att optimera transporter. Foto Benjamin Haas/Mostphotos
De två LiU-forskarna Simon Ståhlberg, postdok, and Jendrik Seipp, biträdande universitetslektor, får tillsammans med Guillem Francès vid Universitat pompeu fabra i Barcelona, priset för en artikel de presenterade på den stora konferensen International Joint Conferences on Artificial Intelligence Organization, IJCAI.
– IJCAI räknas som en av de två viktigaste AI-konferenserna i världen. 4 024 bidrag skickades in. Av dem valdes 587 ut till konferensen. Av dem utmärkte sig tre artiklar särskilt. Vi är glada att en av dem var vår, säger Jendrik Seipp.
I sin artikel har forskarna undersökt det som kallas klassiska planeringsproblem.Jendrik Seipp. Foto Privat
– I den här typen av problem har du en agent som kan agera och ta beslut. Agenten befinner sig i ett bestämt utgångsläge. Den vet vilka handlingar som är möjliga i varje läge och vill hitta en följd av handlingar som tar den från utgångsläget, till det läge när alla mål är uppfyllda, förklarar Jendrik Seipp.
Som exempel kan man ta ett logistikföretag. Du har ett antal lastbilar som ska leverera paket och du har information om vart paketen ska. När du startar så är alla bilar och paket i depån och du måste bestämma vilken lastbil som ska ta vilket paket. Du vill hitta rätt ordningsföljd för handlingarna så att du minimerar kostnaderna för att köra ut alla paketen.
– När man tar sig an ett sådant här problem skapar man vanligtvis en rymd av alla tänkbara lägen man kan befinna sig i. Sedan vill man hitta en bana som tar dig från utgångsläget, där alla bilar och paket är i depån, till ett läge där alla paket har levererats.
Man kan förstå varje läge som en punkt i ett koordinatsystem med många dimensioner. När man letar efter läget där alla mål är uppfyllda, kan det hända att man hamnar i ett läge från vilket det är omöjligt att ta sig till målet.
– Ett sådant läge vill man upptäcka så tidigt som möjligt för att utesluta banorna som leder dit. Det är det här vi gör i vår artikel. I exemplet med lastbilarna skulle ett sådant läge kunna vara att en lastbil inte har tillräckligt med bränsle för att nå sin destination. Då kan jag inte uppfylla mitt mål, säger Jendrik Seipp.
Forskarna visar att det finns vissa egenskaper som kännetecknar sådana lägen. De använder sig av maskininlärning för att hitta formler som beskriver sådana lägen från vilka målet inte kan nås.
– Det mest intressanta med vår artikel, jag tänker mig att det var därför vi vann priset, är att vi använder oss av maskinlärning och planerande och att vi gör det på ett sätt som går att förklara. Man kan titta på våra formler och säga ”Ja, det här stämmer”.
Modeller som man kommit fram till med hjälp av maskininlärning är inte alltid enkla att tolka. Det är möjligt att du har hittat en modell som fungerar bra, men du kan inte förstå hur modellen göra sina förutsägelser. Detta kallas för ”black box AI”.
– Om du använder maskininlärning för att hitta ett svar, men du inte vet varför det är rätt, så kan du inte lita på svaret. Om du vill använda ett system i den verkliga världen så måste du förstå hur det fattar beslut. Det kan vara farligt om du inte förstår systemets sätt att resonera, förklarar Jendrik Seipp.
Inom AI-forskning letar man sedan en tid allt oftare lösningar som går att förklara, så kallat ”explainable AI”.
Forskningen är finansierad av an ERC Advanced Grant (PI: Hector Geffner), EU ICT-48 2020 project TAILOR, Knut och Alice Wallenbergs Stiftelse (WASP-programmet) och SNIC , the Swedish National Infrastructure for Computing.
Artikeln: ””, Simon Ståhlberg, Guillem Francès, Jendrik Seipp, Proceedings of the Thirtieth International Joint Conference on Artificial Intelligence, Main Track, pages 4175-4181
