In den vergangenen Tagen tauchen immer wieder Warnungen für Künstliche Intelligenz auf – von KI-Entwicklern selbst, die berichten, dass sich manche Systeme verselbstständigen. Heute sind es britische Sicherheitsforscher, die festgestellt haben, dass ein bekanntes KI-Modell bei einem Test versucht hat, öffentlich zugängliche Software zu hacken und Menschen per Phising-Mails zu manipulieren. Forscher der Uni Bayreuth arbeiten dagegen an. Dort gibt es jetzt ein neu gegründetes „AI Responsibility Center“.
Dort arbeiten Wissenschaftler aus Informatik, Recht und Philosophie gemeinsam an vertrauenswürdigen KI-Systemen.
Universitätspräsident Stefan Leible:
„Die Welt schaut darauf, ob künstliche Intelligenz in Europa nicht nur reguliert wird, sondern auch verantwortungsvoll gebaut werden kann. Wir wollen zeigen, dass das geht und liefern die Methoden, Beispiele und die Nachweise dafür.“
Den Forschenden geht es um Datenschutz, Transparenz und die Frage, wie der Mensch die Kontrolle behält. Das Zentrum soll seine Erkenntnisse auch für Unternehmen, Behörden und gesellschaftliche Organisationen nutzbar machen. Gefördert wird es vom Freistaat Bayern.