Generative KI nutzen? Darauf gilt es zu achten
ChatGPT ist eine sogenannte generative Künstliche Intelligenz des Konzerns OpenAI. Mit ihr vereinfachen sich unglaublich viele Prozesse für Unternehmen, aber wie immer verstecken sich auch Nachteile dahinter. Es geht beispielsweise um Datenschutz und Haftung.
Was ist eigentlich eine generative KI? Sie erstellt neue Inhalte – also Texte, Bilder oder Audio – und nutzt dafür schon vorhandene Daten. Es gibt neben ChatGPT mittlerweile einige solcher KIs. Was ein Unternehmen bei generativen KIs bedenken muss, hat die Deutsche Industrie- und Handelskammer (DIHK) erarbeitet. Zur besseren Veranschaulichung nimmt sie das Beispiel ChatGPT her.
Mitarbeiter schulen
Wenn die Mitarbeiter bei Entwicklungen im Unternehmen nicht mitgenommen werden, wird es immer Probleme geben. Daher muss ihnen gezeigt werden, wie generative KI-Anwendungen genutzt werden und welche Vorteile sie für die Arbeit haben können. Damit die Mitarbeiter die KI verantwortungsvoll nutzen, müssen auch Themen wie Datenschutz und ethische Aspekte diskutiert werden, so die DIHK. Es sollte regelmäßige Schulungen geben, da sich die Technologie ständig weiterentwickelt.
Transparenz
Die DIHK empfiehlt den Unternehmen, Kunden, Mitarbeitern und anderen Stakeholdern genau zu erklären, wo es generative KI einsetzt und wie. Das schaffe Vertrauen.
Datenschutz
Es ist wichtig zu klären, wo die Datenverarbeitung der KI stattfindet. Denn: Es gibt keine Rechtsgrundlage dafür, ob und wie personenbezogene Daten in die USA übermittelt werden. Auch nicht, wie sie auf Servern in den USA gespeichert und verarbeitet werden – etwa, wenn es um ChatGPT geht. Die DIHK rät, gar keine personenbezogenen oder andere sensible Daten in diese KI-Systeme einzugeben.
Unternehmen sollten sorgfältig abwägen, mit welchen Informationen sie in die KI füttern, denn sie trainiert und verbessert sich mit diesen Daten. Es gibt nun auch eine Opting-Out-Funktion bei ChatGPT – mit ihr können Nutzer entscheiden, ob ihre Daten zum Lernen der KI eingesetzt werden dürfen, oder nicht.
Haftung
Klären sollte die Unternehmensführung unbedingt, wer bei Schäden oder Fehler bei der Nutzung der KI haftet. Es könnten einige finanzielle und rechtliche Risiken im Raum stehen.
Plugins
Die KI ist gut, aber Kontrolle ist besser. Noch immer geben ChatGPT und ähnliche Systeme teilweise fehlerhafte Antworten. Um sie zu verhindern, rät die DHIK unbedingt dazu, alle KI-generierten Inhalte noch einmal genau zu überprüfen.
Menschliche Überprüfung
Vor rund einem Jahr hat OpenAI Plugins entwickelt, die ChatGPT direkt in Unternehmenssysteme einbindet. Damit kann die KI nochmal ganz andere Aufgaben erledigen, beispielsweise Reisen zu buchen oder Datensätze über Schnittstellen gezielt untersuchen.
Bisher ist noch nicht sehr viel möglich, das soll sich aber ändern. Experten gehen davon aus, dass eine eigene Welt entstehen könnte, die den Umfang und die Bedeutung des AppleApp-Stores nahekommt. In diesem Zusammenhang werden die Themen Urheberrecht, Datenschutz und -sicherheit noch bedeutender.
Datenqualität
Ob die Ergebnisse einer generativen KI gut sind, hängt davon ab, wie gut die Datensätze sind, von denen sie lernen und mit denen sie trainieren. Sind sie unzureichend, können ungenaue oder irreführende Ergebnisse dabei herauskommen.
Bei den meisten KI-Systemen ist unklar, welche Datenquellen sie nutzen und wo deren Meinungsschwerpunkt liegt. Damit ist klar wie wichtig es ist, die Zuverlässigkeit und Objektivität der Resultate zu kontrollieren.
Ethische Themen
Ist es ethisch vertretbar, generative KI zu nutzen? Das ist eine Frage, die jedes Unternehmen für sich beantworten muss. Passt es zu den Prinzipien des Betriebs? Vor dem Einsatz der KI sollte sich das Unternehmen überlegen, wie der Plan bei Kunden, Mitarbeitern und Stakeholdern ankommt.
Coding
Falls die KI im Bereich der Programmierung genutzt werden soll, muss sich das Unternehmen mit den Befehlen des Tools und der Syntax beschäftigen. Fehler im Code, so die DIHK, können sich auf Funktionalität und Sicherheit der Anwendungen auswirken.
Geistiges Eigentum
Wer Texte, Begriffe oder Bilder in die KI einspeist, muss davon ausgehen, dass sie urheberrechtlich geschützt sind. Man könnte also das Urheberrecht damit auch verletzen und die Vervielfältigung damit strafbar sein. Besondere Vorsicht ist also geboten, wenn die KI-Ergebnisse für die Kommunikation nach außen verwendet werden sollen.
Autor:
Stefan Lanz
Ich bin IT-Experte für Digitale Transformation, Daten- und IT-Sicherheit. Ich bin IT-Sicherheitsbeauftragter, IT-Sachverständiger, Datenschützer, Coach und Berater für Unternehmen seit 1995. Mehr zu mir finden Sie hier.
