Etikarena 2024: AI och forskningsetik

Hur stor är risken att forskaren av misstag råkar frambringa mänskliga och samhälleliga katastrofer? Eller vad händer när kraftfull generativ AI avsiktligt sätts i händerna på auktoritära och diktatoriska regimer?

AI:s utveckling väcker också mer forskningsinterna frågor kring vem som är ansvarig när stora delar av forskningsprocessen sköts av helt eller delvis autonoma program. Vem är egentligen författaren till en forskningsartikel när såväl kartläggning och analys som textproduktion till största delen gjorts av ChatGPT? Vem är ansvarig om resultat visar sig vara framfabulerade? Hur ska människa och maskin samspela på ett sätt som inte undergräver juridiskt och etiskt ansvarsutkrävande?

AI-utvecklingen väcker dessutom omedelbart aktuella frågor kring forskningsfinansieringens utformning och beredning. Är det etiskt acceptabelt att låta large language models författa och bedöma ansökningar? Måste man berätta om man låtit ChatGPT författa delar av en forskningsansökan? Kan och bör vi överlåta bedömningen av forskningsidéer till generativ AI?

Till sist väcks frågor av närmast forskningsfilosofisk art: Om maskiner såväl författar som bedömer både forskningsansökningar och forskningsartiklar, vilken blir då den forskande människans roll? Om vi inte längre är de enda eller ens främsta genuint kreativa entiteterna på planeten, vilka är vi då?

Kring dessa och andra brännande frågor bjuder Vetenskapsrådet in till en heldag om AI och forskningsetik. Hör om perspektiven hos forskare och forskningsfinansiärer och delta själv i samtalet!