Einleitung zum Wissenstest: Künstliche Intelligenz in der Firmenkorrespondenz

Willkommen zur KI-Online-Schulung

Künstliche Intelligenz ist inzwischen fester Bestandteil vieler beruflicher Abläufe. Sie kann dabei unterstützen, Informationen zu strukturieren, Texte zu erstellen, Inhalte zusammenzufassen, Ideen zu entwickeln oder Arbeitsprozesse effizienter zu gestalten.

Mit der Nutzung von KI entstehen jedoch auch neue Fragen und Risiken. Welche Informationen dürfen eingegeben werden? Wie zuverlässig sind KI-Ausgaben? Welche Rolle spielen Datenschutz, Informationssicherheit, Geschäftsgeheimnisse, Urheberrechte oder interne Unternehmensvorgaben? Und wann ist eine menschliche Prüfung erforderlich?

Diese Online-Schulung setzt genau dort an. Anhand von 50 praxisnahen Fragen und typischen Situationen aus dem Arbeitsalltag können Sie Ihr Wissen überprüfen und Ihr Verständnis für einen sicheren und verantwortungsvollen Umgang mit KI vertiefen.

Zu jeder Frage stehen vier Antwortmöglichkeiten zur Verfügung. Jeweils eine Antwort ist richtig. Für jede richtig beantwortete Frage erhalten Sie Punkte. Insgesamt können maximal 500 Punkte erreicht werden.

Wichtig: Sobald Sie eine Antwort bestätigt haben, ist sie für den laufenden Durchgang verbindlich und kann nicht mehr geändert werden. Eine erneute Beantwortung ist erst in einem neuen Durchgang möglich.

Ziel der Schulung ist nicht, sämtliche technischen oder rechtlichen Einzelheiten rund um Künstliche Intelligenz auswendig zu lernen. Entscheidend ist vielmehr, ein praktisches Verständnis dafür zu entwickeln, wie KI im beruflichen Alltag sinnvoll, sicher und verantwortungsvoll eingesetzt werden kann, welche Risiken bestehen und wann zusätzliche Prüfung oder Zurückhaltung erforderlich ist.

Für den erfolgreichen Abschluss der Online-Schulung müssen mindestens 75 % der Fragen richtig beantwortet werden. Die 75-%-Grenze ist eine von uns festgelegte Bestehensgrenze und keine gesetzliche Vorgabe. Wird das erforderliche Ergebnis nicht erreicht, kann die Schulung jederzeit erneut durchgeführt werden.

Diese Online-Schulung kann Unternehmen als eine Maßnahme zur Förderung der KI-Kompetenz ihrer Beschäftigten im Sinne des Art. 4 der EU-KI-Verordnung unterstützen. Sie ersetzt jedoch keine auf den konkreten KI-Einsatz, die jeweiligen Tätigkeiten und Risiken eines Unternehmens zugeschnittenen internen Vorgaben, Unterweisungen oder Schulungsmaßnahmen.

Nach erfolgreichem Abschluss erhalten Sie eine E-Mail mit einem persönlichen Link, über den Ihre Teilnahmebescheinigung heruntergeladen werden kann. Bitte prüfen Sie gegebenenfalls auch Ihren Spam- oder Junk-E-Mail-Ordner.

Die Teilnahmebescheinigung dokumentiert die erfolgreiche Teilnahme an dieser Online-Schulung zum angegebenen Datum. Sie stellt keine behördliche Zertifizierung dar und bestätigt nicht automatisch, dass sämtliche Anforderungen an die KI-Kompetenz eines Unternehmens erfüllt sind.

Hinweis zu den Abbildungen

Die in dieser Online-Schulung verwendeten Bilder und Illustrationen wurden, soweit nicht anders gekennzeichnet, mithilfe generativer KI erstellt. Sie dienen ausschließlich der Veranschaulichung der Schulungsinhalte.

Dargestellte Personen sind fiktiv. Gezeigte Situationen, Arbeitsplätze und Benutzeroberflächen stellen keine tatsächlichen Vorgänge oder realen Personen dar.

Ergänzende Datenschutz-Online-Schulung

Neben dem verantwortungsvollen Einsatz von Künstlicher Intelligenz gehört auch der sichere und datenschutzkonforme Umgang mit personenbezogenen Daten zu den wichtigen Grundlagen des beruflichen Alltags.

Ergänzend zu dieser KI-Schulung bieten wir eine kostenfreie Datenschutz-Online-Schulung für Beschäftigte und andere Interessierte an. Anhand praxisnaher Situationen können Sie dort Ihr Wissen zu typischen Datenschutzfragen aus dem Arbeitsalltag überprüfen und auffrischen.

Weitere Informationen und die Datenschutz-Online-Schulung finden Sie unter:

https://edsb-deutschland.de/kostenfreie-datenschutz-schulung/

Nehmen Sie sich für die einzelnen Fragen ausreichend Zeit, lesen Sie die Antwortmöglichkeiten sorgfältig und treffen Sie Ihre Auswahl mit Bedacht.

Wir wünschen Ihnen viel Erfolg bei der KI-Online-Schulung!

Ich stimme der Verarbeitung meiner personenbezogenen Daten gemäß der Datenschutzerklärung zum Zwecke der Schulungsteilnahme zu und habe die Datenschutzerklärung gelesen.

Vor- und Nachname

Firmennamen

Emailadresse

Sie möchten eine externe KI-Anwendung nutzen, um einen Text über einen konkreten Kunden zu erstellen. Was müssen Sie vor der Eingabe personenbezogener Kundendaten beachten?

Geschäftliche Kundendaten können grundsätzlich eingegeben werden, wenn sie ohnehin mehreren Beschäftigten des Unternehmens bekannt sind und ausschließlich für berufliche Zwecke verwendet werden.

Personenbezogene Daten können verwendet werden, wenn nur wenige Angaben eingegeben werden und der betreffende Chat nach Abschluss der Aufgabe wieder gelöscht wird.

Es muss geklärt sein, ob die konkrete KI-Anwendung und der vorgesehene Anwendungsfall für die Verarbeitung dieser Daten betrieblich freigegeben und datenschutzrechtlich zulässig sind.

Die Nutzung ist grundsätzlich zulässig, wenn ausschließlich geschäftliche Kontaktdaten und keine privaten Informationen über die betreffende Person eingegeben werden.

Sie möchten einen Kundenvorgang mit einer externen KI bearbeiten und ersetzen den Namen des Kunden durch „Kunde A“. Wann kann der Sachverhalt tatsächlich als anonym betrachtet werden?

Sobald Vor- und Nachname entfernt wurden, da die KI die betreffende Person anschließend nicht mehr unmittelbar mit einem Namen verbinden kann.

Wenn zusätzlich zum Namen auch E-Mail-Adresse und Telefonnummer entfernt wurden, unabhängig davon, welche weiteren Informationen im Sachverhalt enthalten sind.

Wenn die verbleibenden Informationen eine Identifizierung der betreffenden Person mit vernünftigerweise verfügbaren Mitteln nicht mehr ermöglichen.

Wenn die KI den tatsächlichen Namen der Person nicht kennt und das erzeugte Ergebnis ausschließlich innerhalb des Unternehmens weiterverwendet wird.

Sie möchten eine ausführliche Kunden-E-Mail durch eine externe KI zusammenfassen lassen, die für die Verarbeitung dieser personenbezogenen Daten nicht freigegeben ist. Welche Vorgehensweise ist angemessen?

Sie entfernen den Namen, die E-Mail-Adresse und die Telefonnummer des Kunden und können anschließend davon ausgehen, dass der restliche Inhalt keine personenbezogenen Daten mehr enthält.

Sie können die vollständige E-Mail verwenden, sofern die Zusammenfassung nur intern genutzt und der Chat unmittelbar nach Abschluss der Bearbeitung gelöscht wird.

Sie abstrahieren beziehungsweise anonymisieren den Sachverhalt so weit, dass keine identifizierbare Person mehr enthalten ist, und beachten zusätzlich die betrieblichen Vorgaben.

Sie können die Nachricht unverändert verwenden, wenn Sie die KI ausdrücklich anweisen, die enthaltenen Informationen vertraulich zu behandeln und nicht weiterzugeben.

Ein internes Dokument enthält keine personenbezogenen Daten, dafür aber vertrauliche Informationen über eine geplante Unternehmensstrategie. Was bedeutet das für die Nutzung einer externen KI?

Da keine personenbezogenen Daten enthalten sind, kann das Dokument grundsätzlich verwendet werden, sofern das KI-Ergebnis nur innerhalb des Unternehmens genutzt wird.

Das Dokument kann hochgeladen werden, wenn vorher alle Namen von Mitarbeitern, Kunden und Geschäftspartnern entfernt wurden.

Auch nicht personenbezogene vertrauliche Informationen und Geschäftsgeheimnisse müssen geschützt werden und dürfen nur entsprechend den betrieblichen Freigaben verarbeitet werden.

Bei einem kostenpflichtigen KI-Dienst können solche Dokumente grundsätzlich verarbeitet werden, sofern der Anbieter eine professionelle Unternehmensversion anbietet.

Eine KI liefert Ihnen eine ausführliche, logisch aufgebaute und sehr professionell formulierte Antwort. Wie sollten Sie die inhaltliche Zuverlässigkeit einschätzen?

Eine derart strukturierte Antwort kann normalerweise als zuverlässig angesehen werden, sofern keine offensichtlichen Widersprüche oder sprachlichen Fehler erkennbar sind.

Bei professionell formulierten Antworten genügt in der Regel eine kurze Plausibilitätskontrolle, da umfangreiche Antworten auf eine entsprechend gute Datenbasis schließen lassen.

Auch sehr überzeugend formulierte Antworten können falsche oder erfundene Informationen enthalten und müssen bei relevanten Sachverhalten angemessen überprüft werden.

Eine zusätzliche Prüfung ist hauptsächlich erforderlich, wenn die KI selbst Formulierungen wie „möglicherweise“, „vermutlich“ oder „ich bin mir nicht sicher“ verwendet.

Was ist im Zusammenhang mit generativer KI mit einer sogenannten „Halluzination“ gemeint?

Die KI interpretiert eine unpräzise gestellte Frage anders als vom Benutzer beabsichtigt und gibt deshalb eine thematisch unpassende Antwort.

Die KI erzeugt Informationen, Aussagen oder Quellen, die plausibel und überzeugend wirken können, tatsächlich aber falsch oder erfunden sind.

Die KI kann aufgrund technischer Überlastung eine Anfrage nicht vollständig bearbeiten und bricht die Generierung der Antwort vorzeitig ab.

Die KI verwendet Informationen aus einer vorherigen Unterhaltung, obwohl der Benutzer diese im aktuellen Prompt nicht erneut erwähnt hat.

Eine KI nennt Ihnen mehrere Studien, Gerichtsurteile und Fachartikel als Quellen für ihre Antwort. Wie gehen Sie bei einer wichtigen beruflichen Verwendung damit um?

Wenn Autor, Titel und Veröffentlichungsjahr vollständig angegeben sind, können die Quellen grundsätzlich als ausreichend verlässlich angesehen werden.

Es reicht normalerweise aus, die Internetadressen aufzurufen und zu kontrollieren, ob dort tatsächlich eine fachlich passende Webseite oder Publikation vorhanden ist.

Relevante Quellen sollten im Original überprüft werden, insbesondere darauf, ob sie tatsächlich existieren und die von der KI behauptete Aussage wirklich enthalten.

Eine Überprüfung ist hauptsächlich bei wissenschaftlichen Veröffentlichungen notwendig; bei bekannten Institutionen oder Gerichten kann auf die KI-Angabe vertraut werden.

Welche Gestaltung eines Prompts führt bei beruflichen Aufgaben in der Regel zu besser steuerbaren KI-Ergebnissen?

Eine möglichst ausführliche Beschreibung mit vielen Fachbegriffen, auch wenn nicht alle Informationen unmittelbar für die konkrete Aufgabe benötigt werden.

Eine klare Beschreibung der Aufgabe mit relevantem Kontext, Zielsetzung, wichtigen Rahmenbedingungen und dem gewünschten Ausgabeformat.

Eine möglichst kurze Anweisung, damit die KI selbst entscheiden kann, welche Perspektive und welches Ausgabeformat für die Aufgabe am besten geeignet sind.

Die gleiche Anweisung mehrfach mit unterschiedlichen Formulierungen wiederholen, damit die KI erkennt, welche Teile der Aufgabenstellung besonders wichtig sind.

Warum kann zusätzlicher relevanter Kontext die Qualität einer KI-Antwort verbessern?

Weil ein ausreichend langer Prompt verhindert, dass die KI Informationen ergänzt, die nicht ausdrücklich vom Benutzer vorgegeben wurden.

Weil die KI dadurch Aufgabe, Zielgruppe, Rahmenbedingungen und das gewünschte Ergebnis besser einordnen und ihre Antwort darauf ausrichten kann.

Weil eine KI ab einer bestimmten Menge an Kontext grundsätzlich zuverlässiger arbeitet und deshalb keine zusätzliche Ergebniskontrolle mehr erforderlich ist.

Weil Kontextinformationen automatisch als verlässliche Quellen behandelt werden und damit die Wahrscheinlichkeit sachlich falscher Antworten ausgeschlossen wird.

10.

Sie schreiben in einen Prompt: „Beantworte die Frage aus Sicht eines erfahrenen Kundenservice-Mitarbeiters.“ Welchen Nutzen kann diese Anweisung haben?

Die KI erhält dadurch fachlich dieselben Kompetenzen und Verantwortlichkeiten wie eine entsprechend qualifizierte Person.

Die Rollenbeschreibung kann helfen, Perspektive, Tonalität, Schwerpunkt und Art der Antwort auf den gewünschten Anwendungsfall auszurichten.

Durch eine klar definierte berufliche Rolle können falsche Tatsachenbehauptungen oder Halluzinationen weitgehend ausgeschlossen werden.

Die Rollenbeschreibung führt dazu, dass die KI automatisch die im Unternehmen geltenden internen Richtlinien und Arbeitsanweisungen berücksichtigt.

1 out of 5

11.

Eine KI empfiehlt aufgrund der eingegebenen Informationen, einen bestimmten Kunden abzulehnen. Wie sollte mit dieser Empfehlung umgegangen werden?

Wenn die KI ihre Empfehlung nachvollziehbar begründet und mehrere Kriterien berücksichtigt hat, kann die Entscheidung grundsätzlich übernommen werden.

Die gleiche Aufgabe sollte zunächst ein zweites Mal gestellt werden; kommt die KI erneut zum gleichen Ergebnis, ist die Entscheidung ausreichend abgesichert.

Die Empfehlung muss angemessen geprüft werden; eine relevante Entscheidung sollte entsprechend den geltenden Vorgaben durch die zuständige Person beziehungsweise Stelle getroffen werden.

Die KI-Empfehlung kann übernommen werden, wenn anschließend dokumentiert wird, welche Anwendung eingesetzt wurde und welche Begründung sie ausgegeben hat.

12.

Eine Personalabteilung möchte vollständige Bewerbungsunterlagen durch eine externe KI analysieren lassen. Was ist dabei besonders zu beachten?

Da Bewerber ihre Unterlagen freiwillig an das Unternehmen übermittelt haben, können diese grundsätzlich auch mit modernen digitalen Werkzeugen ausgewertet werden.

Werden Bewerbungsfoto, Anschrift und Geburtsdatum entfernt, können die übrigen Bewerbungsunterlagen normalerweise ohne weitere Prüfung an eine externe KI übermittelt werden.

Bewerbungsunterlagen enthalten personenbezogene Daten; deshalb müssen die konkrete KI-Verarbeitung, ihre Zulässigkeit und die betrieblichen Vorgaben vorher entsprechend geprüft werden.

Eine KI-Auswertung ist grundsätzlich zulässig, solange die KI lediglich Empfehlungen ausspricht und die endgültige Einstellungsentscheidung von einem Menschen getroffen wird.

13.

Warum ist bei Gesundheitsinformationen von Mitarbeitern oder Kunden beim Einsatz externer KI besondere Vorsicht erforderlich?

Gesundheitsinformationen dürfen aufgrund ihrer besonderen Vertraulichkeit grundsätzlich ausschließlich auf Papier verarbeitet und niemals an digitale Systeme übertragen werden.

Gesundheitsdaten gehören zu besonders geschützten Kategorien personenbezogener Daten und unterliegen deshalb erhöhten datenschutzrechtlichen Anforderungen

Gesundheitsinformationen dürfen in einer KI verarbeitet werden, wenn medizinische Diagnosen entfernt und nur allgemeine gesundheitliche Angaben verwendet werden.

Gesundheitsdaten sind hauptsächlich deshalb problematisch, weil generative KI medizinische Fachbegriffe möglicherweise falsch interpretieren oder übersetzen könnte.

14.

Sie benötigen bei einem technischen Problem Hilfe von einer externen KI. Der relevante Code enthält ein echtes Passwort beziehungsweise einen API-Schlüssel. Wie gehen Sie vor?

Der Zugangsschlüssel kann eingegeben werden, wenn der KI-Chat unmittelbar nach erfolgreicher Problemlösung gelöscht und der Schlüssel anschließend geändert wird.

Bei einer kostenpflichtigen Unternehmensversion der KI können Zugangsdaten verwendet werden, sofern sie ausschließlich zur technischen Fehleranalyse benötigt werden.

Echte Passwörter, API-Schlüssel und vergleichbare Zugangsdaten sollten nicht in externe KI-Prompts eingegeben werden; stattdessen sind sichere Platzhalter zu verwenden.

Ein Zugangsschlüssel kann verwendet werden, wenn nur ein kleiner Ausschnitt des Codes eingegeben wird und aus diesem der dazugehörige Benutzer nicht hervorgeht.

15.

Was versteht man bei KI-Systemen unter einer „Prompt Injection“?

Die automatische Ergänzung eines kurzen Benutzer-Prompts durch zusätzliche Anweisungen, damit die KI ein qualitativ besseres Ergebnis erzeugen kann.

Den Versuch, ein KI-System durch manipulierte oder versteckte Anweisungen dazu zu bringen, vorgesehene Regeln oder ursprüngliche Anweisungen zu umgehen.

Das Einfügen sehr großer Textmengen oder mehrerer Dokumente in einen Prompt, wodurch die ursprüngliche Aufgabenstellung möglicherweise weniger stark berücksichtigt wird.

Eine technische Methode, mit der mehrere aufeinanderfolgende Prompts automatisch zu einer einzigen umfangreichen Anfrage zusammengeführt werden.

16.

Warum können auch scheinbar vertrauenswürdige Dokumente problematisch sein, wenn ein KI-System deren Inhalte automatisiert verarbeitet?

Weil KI-Systeme bei langen Dokumenten grundsätzlich nicht unterscheiden können, welche Inhalte vom Benutzer und welche vom ursprünglichen Autor stammen.

Weil Dokumente versteckte oder manipulierte Anweisungen enthalten können, die versuchen, das Verhalten eines angeschlossenen KI-Systems zu beeinflussen.

Weil PDF- und Office-Dokumente von KI-Systemen technisch häufig anders dargestellt werden und deshalb sämtliche Formatierungen kontrolliert werden müssen.

Weil externe Dokumente grundsätzlich zunächst vollständig in ein internes Dateiformat umgewandelt werden müssen, bevor sie mit einer KI verarbeitet werden dürfen.

17.

Eine KI erstellt für Ihr Unternehmen einen umfangreichen Text. Bedeutet dies automatisch, dass der Text ohne weitere Prüfung veröffentlicht werden darf?

Ja, da der Text technisch neu erzeugt wurde und deshalb grundsätzlich keine Rechte anderer Personen oder Unternehmen berühren kann.

Grundsätzlich ja, wenn der Mitarbeiter mindestens einzelne Formulierungen verändert und damit eine eigene Bearbeitung des KI-Textes vorgenommen hat.

Nein, je nach Inhalt und Verwendungszweck können unter anderem Rechte Dritter sowie weitere rechtliche oder betriebliche Vorgaben zu berücksichtigen sein.

Eine rechtliche Prüfung ist hauptsächlich bei Bildern und Videos erforderlich, während rein textbasierte KI-Inhalte grundsätzlich unproblematisch verwendet werden können.

18.

Ein KI-generiertes Bild soll für eine geschäftliche Veröffentlichung verwendet werden. Was sollte vorher berücksichtigt werden?

Da die KI das Bild neu generiert hat, bestehen grundsätzlich keine Rechte Dritter, solange kein fremdes Bild unmittelbar kopiert wurde.

Es sollten je nach Motiv und Verwendung unter anderem mögliche Rechte Dritter, Persönlichkeitsrechte sowie betriebliche Vorgaben berücksichtigt werden.

Eine zusätzliche Prüfung ist nur erforderlich, wenn eine tatsächlich existierende und allgemein bekannte Person eindeutig auf dem Bild dargestellt wird.

Bei einer kostenpflichtigen Bild-KI kann grundsätzlich davon ausgegangen werden, dass sämtliche erzeugten Bilder uneingeschränkt geschäftlich verwendet werden dürfen.

19.

Eine KI erzeugt für eine Werbekampagne ein Motiv, das dem Erscheinungsbild einer bekannten Marke auffällig ähnelt. Was ist sinnvoll?

Das Motiv kann verwendet werden, da es von der KI neu erzeugt wurde und nicht direkt aus den Werbematerialien der bekannten Marke übernommen wurde.

Es genügt, Farben und einzelne Gestaltungselemente geringfügig zu verändern, damit eine Verwechslung mit der bekannten Marke ausgeschlossen werden kann.

Vor der geschäftlichen Verwendung sollte geprüft werden, ob durch Gestaltung, Kennzeichen oder sonstige Elemente Rechte Dritter betroffen sein könnten.

Das Motiv kann verwendet werden, wenn in der Veröffentlichung ausdrücklich darauf hingewiesen wird, dass das Bild mithilfe künstlicher Intelligenz erstellt wurde.

20.

Wer trägt im betrieblichen Alltag Verantwortung dafür, dass KI-Ergebnisse angemessen geprüft und entsprechend den Unternehmensvorgaben verwendet werden?

In erster Linie der Hersteller der KI, da dieser das Modell entwickelt hat und deshalb auch für dessen inhaltliche Ergebnisse verantwortlich ist.

Ausschließlich die IT-Abteilung, sofern sie die betreffende KI-Anwendung technisch freigegeben und den Mitarbeitern zur Verfügung gestellt hat.

Die handelnden Personen und die jeweils zuständigen beziehungsweise verantwortlichen Stellen des Unternehmens im Rahmen ihrer Aufgaben und Vorgaben.

Hauptsächlich der Datenschutzbeauftragte, da der Einsatz künstlicher Intelligenz regelmäßig mit der Verarbeitung digitaler Informationen verbunden ist.

2 out of 5

21.

Eine KI hat eine wichtige Antwort an einen Kunden formuliert. Welche Prüfung sollte vor dem Versand erfolgen?

Es genügt grundsätzlich, Rechtschreibung, Grammatik und Anrede zu kontrollieren, da der eigentliche Inhalt aufgrund des vorgegebenen Prompts bereits feststeht.

Inhalt, Tatsachen, Empfängerbezug, Tonalität sowie möglicherweise enthaltene Zusagen oder Verpflichtungen sollten angemessen kontrolliert werden.

Wenn die KI mit der vollständigen bisherigen Kundenkorrespondenz gearbeitet hat, ist hauptsächlich zu prüfen, ob die Antwort freundlich genug formuliert wurde.

Bei einer betrieblich freigegebenen KI genügt eine kurze Sichtkontrolle, da die fachliche Qualität bereits Bestandteil der Freigabeentscheidung des Unternehmens ist.

22.

Warum sollte bei aktuellen Themen geprüft werden, auf welchem Informationsstand eine KI-Antwort beruht?

Weil generative KI grundsätzlich nur Informationen verwenden kann, die mindestens zwölf Monate alt und bereits umfassend veröffentlicht worden sind.

Weil nicht jedes KI-System automatisch Zugriff auf aktuelle, vollständige und verlässliche Informationen besitzt.

Weil KI-Systeme Datumsangaben zwar erkennen, diese aber grundsätzlich nicht mit dem aktuellen Datum vergleichen können.

Weil aktuelle Informationen normalerweise urheberrechtlich geschützt sind und deshalb von KI-Systemen erst nach einer bestimmten Zeit verwendet werden dürfen.

23.

Eine generative KI erstellt für Sie eine komplexe finanzielle Berechnung, die später für eine geschäftliche Entscheidung verwendet werden soll. Was ist sinnvoll?

Da mathematische Aufgaben eindeutige Ergebnisse haben, kann das Ergebnis verwendet werden, wenn die KI zusätzlich einen nachvollziehbar wirkenden Rechenweg ausgibt.

Wenn dieselbe Berechnung zweimal mit identischem Ergebnis durchgeführt wird, ist eine zusätzliche Prüfung normalerweise nicht mehr erforderlich.

Das Ergebnis sollte mit einem dafür geeigneten Werkzeug oder anhand eines nachvollziehbaren Rechenwegs unabhängig überprüft werden.

Eine zusätzliche Kontrolle ist hauptsächlich bei sehr hohen Geldbeträgen notwendig; kleinere Kalkulationen können aus Effizienzgründen direkt übernommen werden.

24.

Welches Risiko besteht, wenn lange Verträge, Richtlinien oder Fachtexte ausschließlich anhand einer KI-Zusammenfassung beurteilt werden?

Hauptsächlich Formatierungen, Tabellen und Seitenzahlen können verloren gehen, während die wesentlichen inhaltlichen Aussagen normalerweise vollständig erhalten bleiben.

Wichtige Details, Ausnahmen, Einschränkungen oder Zusammenhänge können verkürzt, ausgelassen oder in ihrer Bedeutung falsch gewichtet werden.

Das Risiko besteht hauptsächlich bei Dokumenten mit mehr als 100 Seiten, da kürzere Dokumente von modernen KI-Systemen vollständig erfasst werden können.

Eine Zusammenfassung ist zuverlässig, wenn die KI ausdrücklich angewiesen wurde, sämtliche wesentlichen Informationen des Originaldokuments zu berücksichtigen.

25.

Eine KI übersetzt einen Vertrag, der für eine geschäftliche Vereinbarung verwendet werden soll. Wie sollte mit der Übersetzung umgegangen werden?

Wenn die Übersetzung sprachlich flüssig und professionell wirkt, kann sie grundsätzlich als Arbeitsgrundlage für den Vertrag verwendet werden.

Bei rechtlich oder wirtschaftlich relevanten Inhalten sollte eine angemessene fachkundige Prüfung der entscheidenden Passagen erfolgen.

Es genügt, Namen, Zahlen, Währungen und Datumsangaben mit dem Original zu vergleichen, da sprachliche Formulierungen von modernen KI-Systemen zuverlässig übertragen werden.

Die KI sollte die Übersetzung anschließend selbst noch einmal kontrollieren; bestätigt sie deren Richtigkeit, ist eine zusätzliche menschliche Prüfung nicht notwendig.

26.

Können KI-Systeme trotz technisch korrekter Funktionsweise verzerrte oder benachteiligende Ergebnisse erzeugen?

Nein, da algorithmische Systeme keine persönlichen Meinungen besitzen und deshalb grundsätzlich objektiver als menschliche Entscheidungen sind.

Nur dann, wenn der Benutzer ausdrücklich diskriminierende Kriterien in seinen Prompt eingibt oder die KI zu einer entsprechenden Bewertung auffordert.

Ja, beispielsweise aufgrund der verwendeten Daten, des Modellverhaltens, ungeeigneter Kriterien oder des konkreten Einsatzkontextes.

Dies betrifft hauptsächlich ältere KI-Systeme; moderne generative KI gleicht entsprechende Verzerrungen während der Antworterstellung automatisch aus.

27.

Eine KI bewertet zwei auf den ersten Blick vergleichbare Personen deutlich unterschiedlich. Wie sollten Sie reagieren?

Die Bewertung kann übernommen werden, wenn die KI mehr Daten berücksichtigt hat, als ein Mitarbeiter bei einer manuellen Bewertung verarbeiten könnte.

Die Unterschiede sollten kritisch untersucht und insbesondere die verwendeten Informationen, Kriterien und mögliche Verzerrungen geprüft werden.

Es genügt, die KI erneut mit derselben Aufgabe zu beauftragen; kommt sie wieder zum gleichen Ergebnis, spricht dies für die Zuverlässigkeit der Bewertung.

Die schlechtere Bewertung sollte entfernt und neu erzeugt werden, während die bessere Bewertung bestehen bleiben kann, sofern sie plausibel erscheint.

28.

Welches Vorgehen entspricht bei einer zulässigen KI-Verarbeitung personenbezogener Daten am ehesten dem Grundsatz der Datenminimierung?

Möglichst viele verfügbare Informationen bereitstellen, damit die KI selbst entscheiden kann, welche Angaben für die jeweilige Aufgabe relevant sind.

Nur diejenigen personenbezogenen Daten verwenden, die für den konkreten zulässigen Zweck tatsächlich erforderlich sind.

Sämtliche Daten zunächst hochladen und nach Erstellung des Ergebnisses diejenigen Informationen aus dem Chat entfernen, die nicht benötigt wurden.

Vorrangig ältere personenbezogene Daten verwenden, da bei länger zurückliegenden Informationen grundsätzlich ein geringeres Datenschutzrisiko besteht.

29.

Ein externer KI-Dienst kann Videokonferenzen automatisch aufnehmen, transkribieren und zusammenfassen. Darf diese Funktion einfach aktiviert werden?

Ja, sofern ausschließlich Beschäftigte des eigenen Unternehmens teilnehmen und die Aufzeichnung ausschließlich für interne Zwecke verwendet wird.

Ja, wenn die Aufzeichnung nach Erstellung des Protokolls automatisch gelöscht wird und nur die Zusammenfassung gespeichert bleibt.

Nur wenn die konkrete Nutzung zulässig und betrieblich freigegeben ist und die dafür erforderlichen Vorgaben eingehalten werden.

Die Funktion kann grundsätzlich aktiviert werden, wenn zu Beginn des Meetings ein allgemeiner Hinweis angezeigt wird, dass ein KI-Assistent anwesend ist.

30.

Warum sollte ein von einer KI automatisch erstelltes Besprechungsprotokoll vor der weiteren Verwendung kontrolliert werden?

Hauptsächlich weil Namen, Datumsangaben und Uhrzeiten durch automatische Transkriptionssysteme gelegentlich falsch geschrieben werden können.

Weil Aussagen beispielsweise falsch zugeordnet, verkürzt, aus dem Zusammenhang gerissen oder inhaltlich missverstanden worden sein können.

Eine Kontrolle ist hauptsächlich bei externen Besprechungen erforderlich; bei internen Meetings können KI-Protokolle grundsätzlich direkt gespeichert werden.

Wenn sämtliche Teilnehmer das Protokoll automatisch erhalten, ist eine vorherige Kontrolle nicht erforderlich, weil Fehler anschließend gemeinsam korrigiert werden können.

3 out of 5

31.

Sie möchten eine noch nicht veröffentlichte Produkt- oder Geschäftsstrategie mithilfe einer externen KI verbessern. Was ist zu beachten?

Solange das Dokument keine personenbezogenen Daten enthält, kann eine externe KI grundsätzlich zur strategischen Analyse eingesetzt werden.

Vertrauliche strategische Informationen dürfen nur entsprechend den geltenden betrieblichen Freigaben und Schutzvorgaben verarbeitet werden.

Es genügt, Produktnamen, Kundennamen und konkrete Umsatzzahlen zu entfernen; der übrige strategische Inhalt kann anschließend verwendet werden.

Bei einer kostenpflichtigen Unternehmensversion einer KI können interne Strategien grundsätzlich verarbeitet werden, weil die Nutzung vertraglich bezahlt wird.

32.

Ein Mitarbeiter entdeckt einen kostenlosen KI-Dienst, der seine Aufgabe deutlich erleichtern könnte. Was sollte er beachten?

Kostenlose KI-Dienste eignen sich besonders für unverbindliche Arbeitsschritte, solange die erzeugten Ergebnisse anschließend durch einen Mitarbeiter kontrolliert werden.

Auch bei kostenlosen Diensten müssen insbesondere betriebliche Vorgaben, Datenschutz, Nutzungsbedingungen und der Umgang mit eingegebenen Informationen berücksichtigt werden.

Kostenlose KI-Systeme dürfen grundsätzlich genutzt werden, wenn keine Dateien hochgeladen und sämtliche Informationen manuell in den Chat eingegeben werden.

Entscheidend ist hauptsächlich, dass der Dienst keinen Benutzeraccount verlangt, weil dadurch keine eindeutige Verbindung zwischen Eingaben und Mitarbeiter hergestellt werden kann.

33.

Das Unternehmen verfügt über einen kostenpflichtigen Zugang zu einem externen KI-Dienst. Was bedeutet dies für die Verarbeitung betrieblicher Informationen?

Da ein geschäftlicher Vertrag besteht, können grundsätzlich sämtliche betrieblichen Informationen verarbeitet werden, sofern der Account ausschließlich beruflich genutzt wird.

Personenbezogene Daten bleiben zwar eingeschränkt, andere interne Unternehmensinformationen können über einen kostenpflichtigen Account grundsätzlich verwendet werden.

Auch bei einem kostenpflichtigen Dienst müssen Anwendung, Anwendungsfall und jeweilige Daten entsprechend den betrieblichen und rechtlichen Anforderungen geeignet und freigegeben sein.

Sobald der Dienst zentral durch das Unternehmen bezahlt wird, liegt die Verantwortung für die eingegebenen Informationen hauptsächlich beim Anbieter und nicht mehr beim einzelnen Mitarbeiter.

34.

Ein Mitarbeiter besitzt privat einen kostenpflichtigen KI-Account und möchte diesen gelegentlich für berufliche Aufgaben verwenden. Wie ist dies zu beurteilen?

Ein privater Premium-Account kann beruflich genutzt werden, wenn der Mitarbeiter selbst für die Kosten aufkommt und dadurch keine zusätzlichen Kosten für das Unternehmen entstehen.

Die Nutzung ist möglich, wenn ausschließlich Texte eingegeben und keine vollständigen Unternehmensdokumente oder Dateien hochgeladen werden.

Ein privater Account ist nicht automatisch für betriebliche Zwecke zulässig; entscheidend sind die betrieblichen Vorgaben und die Freigabe des konkreten Einsatzes.

Eine private KI kann verwendet werden, wenn der Mitarbeiter die erzeugten Ergebnisse anschließend auf einen Firmencomputer überträgt und den privaten Chat löscht.

35.

Ein KI-Assistent bietet an, Ihr vollständiges berufliches E-Mail-Postfach zu durchsuchen und automatisch Aufgaben daraus abzuleiten. Was sollten Sie vorher prüfen?

Hauptsächlich, ob der KI-Dienst die verwendete E-Mail-Plattform technisch vollständig unterstützt und sämtliche Nachrichten zuverlässig durchsuchen kann.

Welche Nachrichten, Anhänge und sonstigen Informationen die KI dadurch erreichen kann und ob dieser Zugriff für den vorgesehenen Zweck zulässig und freigegeben ist.

Es genügt, private Nachrichten und ältere E-Mails vorher zu löschen, da die verbleibende berufliche Korrespondenz grundsätzlich betrieblich verarbeitet werden darf.

Wenn der KI-Assistent nur lesenden Zugriff erhält und selbst keine Nachrichten versenden kann, bestehen grundsätzlich keine besonderen Datenschutz- oder Sicherheitsrisiken.

36.

Was unterscheidet einen KI-Agenten häufig von einem klassischen KI-Chat, der lediglich Fragen beantwortet?

Ein KI-Agent verwendet grundsätzlich ein leistungsfähigeres Sprachmodell und kann deshalb komplexere Fragen mit einer höheren Zuverlässigkeit beantworten.

Ein KI-Agent kann je nach Ausgestaltung mehrere Arbeitsschritte selbstständig ausführen und dabei auf andere Werkzeuge, Daten oder Systeme zugreifen.

KI-Agenten arbeiten grundsätzlich innerhalb des Unternehmensnetzwerks und können deshalb ohne zusätzliche Datenschutzprüfung auf interne Informationen zugreifen.

Ein KI-Agent unterscheidet sich hauptsächlich dadurch, dass er dauerhaft im Hintergrund läuft und keine direkten Eingaben eines Benutzers mehr benötigt.

37.

Welche Zugriffsrechte sollte ein KI-Agent erhalten, der beispielsweise Termine organisieren und bestimmte Dokumente bearbeiten soll?

Möglichst umfassende Zugriffsrechte, damit der Agent bei unerwarteten Aufgaben nicht durch fehlende Berechtigungen in seiner Arbeit eingeschränkt wird.

Nur diejenigen Berechtigungen und Systemzugriffe, die für die konkret vorgesehenen Aufgaben tatsächlich erforderlich sind.

Dieselben Berechtigungen wie sein verantwortlicher Benutzer, weil der KI-Agent technisch im Auftrag dieser Person handelt und deren Aufgaben unterstützt.

Administratorrechte sind sinnvoll, wenn der Agent regelmäßig mehrere Systeme miteinander verbinden muss und dadurch technische Unterbrechungen vermieden werden können.

38.

Ein KI-Agent kann selbstständig geschäftliche E-Mails erstellen und versenden. Welche Schutzmaßnahme ist bei wichtigen externen Nachrichten besonders sinnvoll?

Nachrichten automatisch versenden lassen, solange der KI-Agent nur auf zuvor freigegebene Vorlagen und Unternehmensinformationen zugreifen kann.

Bei relevanten externen Aktionen eine angemessene menschliche Prüfung beziehungsweise Freigabe vor dem tatsächlichen Versand vorsehen.

Nur Nachrichten mit einer bestimmten maximalen Länge automatisch versenden, da kürzere Nachrichten weniger rechtliche und kommunikative Risiken enthalten.

Den automatischen Versand auf bestimmte Tageszeiten beschränken, damit Mitarbeiter bei Problemen während der regulären Arbeitszeit eingreifen können.

39.

Eine generative KI erstellt Programmcode, der in einer Unternehmensanwendung eingesetzt werden soll. Wie sollte vor dem produktiven Einsatz vorgegangen werden?

Wenn der Code kompiliert beziehungsweise ohne Fehlermeldung ausgeführt werden kann, ist eine zusätzliche Prüfung nur bei sicherheitskritischen Anwendungen erforderlich.

Der erzeugte Code sollte entsprechend seiner Bedeutung fachlich, funktional und sicherheitstechnisch geprüft und getestet werden.

Es genügt, den Code durch eine zweite KI prüfen zu lassen, sofern diese unabhängig vom ursprünglich verwendeten KI-System arbeitet.

Eine menschliche Prüfung ist hauptsächlich erforderlich, wenn die KI selbst darauf hinweist, dass bestimmte Teile des erzeugten Codes möglicherweise unsicher sein könnten.

40.

Eine KI schlägt zur Lösung eines technischen Problems einen Systembefehl vor, dessen genaue Wirkung Sie nicht verstehen. Wie reagieren Sie?

Sie führen den Befehl zunächst in der vorgeschlagenen Form aus, da die KI ihn passend zu der von Ihnen beschriebenen technischen Situation erstellt hat.

Sie prüfen zunächst die genaue Wirkung und mögliche Risiken beziehungsweise lassen den Befehl von einer fachkundigen Person beurteilen.

Sie lassen sich denselben Befehl von einer zweiten KI bestätigen; stimmen beide Systeme überein, kann der Befehl als ausreichend geprüft gelten.

Sie führen den Befehl mit eingeschränkten Benutzerrechten aus, da dadurch grundsätzlich ausgeschlossen ist, dass wesentliche Veränderungen am System vorgenommen werden.

4 out of 5

41.

Eine KI formuliert eine Antwort auf eine emotional formulierte Kundenbeschwerde. Was sollte vor dem Versand besonders kontrolliert werden?

Hauptsächlich Rechtschreibung, Höflichkeitsform und Länge der Antwort, da die sachlichen Informationen aus dem ursprünglichen Kundenfall stammen.

Sachverhalt, Tonalität, Empfängerbezug und insbesondere mögliche Zusagen oder Aussagen mit geschäftlichen Folgen sollten überprüft werden.

Bei einer verärgerten Kundenreaktion sollte die KI-Antwort möglichst unverändert verwendet werden, da KI-Systeme emotional neutraler formulieren als Menschen.

Es genügt, die KI vor der Erstellung anzuweisen, besonders höflich und kundenorientiert zu antworten; dadurch ist eine zusätzliche kommunikative Prüfung normalerweise nicht erforderlich.

42.

Warum ist beim Einsatz von KI im Personal- und Beschäftigtenbereich besondere Sorgfalt erforderlich?

Weil Personalabteilungen grundsätzlich ausschließlich speziell für HR entwickelte KI-Systeme verwenden dürfen und allgemeine KI-Anwendungen ausgeschlossen sind.

Weil dort häufig personenbezogene Daten verarbeitet werden und KI-gestützte Bewertungen oder Empfehlungen erhebliche Auswirkungen auf Beschäftigte haben können.

Weil KI-Systeme berufliche Leistungen und Qualifikationen grundsätzlich nicht zuverlässig verarbeiten können und deshalb ausschließlich administrative Aufgaben übernehmen dürfen.

Weil Mitarbeiterdaten im Gegensatz zu Kundendaten grundsätzlich niemals von automatisierten Systemen ausgewertet oder strukturiert werden dürfen.

43.

Eine KI erstellt anhand verschiedener Leistungsdaten automatisch eine Rangliste von Mitarbeitern. Was ist bei einer solchen Anwendung besonders zu berücksichtigen?

Wenn alle Mitarbeiter anhand derselben Datenpunkte bewertet werden, kann grundsätzlich davon ausgegangen werden, dass das Ergebnis objektiv und fair ist.

Die Bewertung kann erhebliche Auswirkungen auf Beschäftigte haben und erfordert deshalb eine sorgfältige rechtliche, fachliche und menschliche Prüfung.

Eine Rangliste ist datenschutzrechtlich grundsätzlich unproblematisch, wenn anstelle der Namen ausschließlich Personalnummern oder andere interne Kennungen verwendet werden.

Wenn die endgültige Rangliste von einer Führungskraft angesehen wird, kann die vorherige KI-Bewertung grundsätzlich ohne zusätzliche Prüfung als Entscheidungsgrundlage verwendet werden.

44.

Warum sollten Mitarbeiter, die KI beruflich einsetzen, eine entsprechende Schulung beziehungsweise ausreichende KI-Kompetenz erhalten?

Damit sie möglichst viele verschiedene KI-Anwendungen kennenlernen und bei jeder Aufgabe selbst das leistungsfähigste System auswählen können.

Damit sie Möglichkeiten, Grenzen, Funktionsweise und relevante Risiken der eingesetzten Systeme angemessen verstehen und bei ihrer Arbeit berücksichtigen können.

Damit die Verantwortung für Fehler bei der KI-Nutzung vollständig auf den geschulten Mitarbeiter übertragen und andere Unternehmensbereiche entlastet werden können.

Damit nach Abschluss der Schulung KI-generierte Inhalte grundsätzlich ohne zusätzliche fachliche Kontrolle im normalen Arbeitsalltag verwendet werden können.

45.

Wann kann es sinnvoll oder erforderlich sein, transparent zu machen, dass bei der Erstellung oder Bearbeitung eines Inhalts KI eingesetzt wurde?

Grundsätzlich immer, sobald auch nur einzelne Formulierungen oder Ideen mithilfe einer KI entwickelt wurden, unabhängig vom jeweiligen Verwendungszweck.

Wenn gesetzliche, vertragliche, betriebliche oder kommunikative Anforderungen dies vorsehen beziehungsweise Transparenz im konkreten Kontext erforderlich oder sinnvoll ist.

Ausschließlich bei KI-generierten Bildern, Videos und Audiodateien, da bei rein textlichen Inhalten grundsätzlich keine Kennzeichnung erforderlich sein kann.

Hauptsächlich bei kostenlosen KI-Systemen, weil bei professionellen Unternehmenslösungen davon ausgegangen werden kann, dass der KI-Einsatz Bestandteil des normalen Arbeitsprozesses ist.

46.

Sie erhalten eine ungewöhnliche Video- oder Sprachnachricht eines Vorgesetzten, in der Sie zu einer dringenden vertraulichen Zahlung aufgefordert werden. Stimme und Aussehen wirken authentisch. Wie reagieren Sie?

Sie führen die Zahlung aus, wenn Ihnen die Person eindeutig bekannt vorkommt und die Anweisung mit üblichen betrieblichen Abläufen grundsätzlich vereinbar erscheint.

Sie antworten über denselben Kommunikationskanal und bitten den vermeintlichen Vorgesetzten um eine kurze schriftliche Bestätigung der Zahlungsanweisung.

Sie überprüfen die ungewöhnliche Anweisung über einen unabhängigen, bereits bekannten und vertrauenswürdigen Kommunikationsweg beziehungsweise den vorgesehenen Freigabeprozess.

Sie führen zunächst einen kleineren Teil der Zahlung aus und warten ab, ob der Vorgesetzte anschließend die Überweisung des restlichen Betrags bestätigt.

47.

Während einer vertraulichen Strategiebesprechung möchte ein Teilnehmer spontan einen externen KI-Assistenten aktivieren, der automatisch Notizen erstellt. Was ist richtig?

Die Funktion kann verwendet werden, wenn ausschließlich eigene Mitarbeiter an der Besprechung teilnehmen und keine externen Personen Zugriff auf die Notizen erhalten.

Der KI-Assistent kann aktiviert werden, wenn zu Beginn des Meetings alle Teilnehmer mündlich darauf hingewiesen werden und niemand ausdrücklich widerspricht.

Vor der Aktivierung muss geprüft werden, ob der konkrete Dienst und diese Nutzung für die betreffenden Besprechungsinhalte zulässig und betrieblich freigegeben sind.

Eine Nutzung ist möglich, wenn der Assistent nur ein schriftliches Protokoll erzeugt und weder Audio- noch Videodateien nach Abschluss der Besprechung dauerhaft gespeichert werden.

48.

Sie bemerken, dass Sie versehentlich personenbezogene oder vertrauliche Informationen in eine dafür nicht freigegebene externe KI eingegeben haben. Wie reagieren Sie?

Sie löschen den betreffenden Chat sofort; wenn die Informationen anschließend nicht mehr sichtbar sind, sind normalerweise keine weiteren Maßnahmen erforderlich.

Sie beobachten zunächst, ob die KI die Informationen in einer späteren Antwort erneut verwendet, und melden den Vorgang nur, wenn dies tatsächlich geschieht.

Sie melden den Vorgang unverzüglich über den vorgesehenen internen Meldeweg, damit das Unternehmen den Sachverhalt bewerten und erforderliche Maßnahmen einleiten kann.

Eine Meldung ist nur erforderlich, wenn besonders sensible Informationen wie Gesundheitsdaten, Bankverbindungen oder Passwörter betroffen waren.

49.

Welche Haltung beschreibt einen verantwortungsvollen Einsatz generativer KI im beruflichen Alltag am besten?

KI sollte möglichst viele wiederkehrende Entscheidungen vollständig übernehmen, damit Mitarbeiter ihre Arbeitszeit ausschließlich für außergewöhnliche Fälle einsetzen können.

KI kann bei geeigneten Aufgaben wirksam unterstützen, während relevante Ergebnisse und Entscheidungen abhängig von Bedeutung und Risiko angemessen durch Menschen kontrolliert werden.

KI sollte hauptsächlich für kreative Aufgaben eingesetzt werden, weil bei administrativen oder fachlichen Aufgaben die Gefahr falscher Ergebnisse grundsätzlich zu hoch ist.

Wenn ein KI-System über einen längeren Zeitraum zuverlässige Ergebnisse geliefert hat, kann der Umfang der menschlichen Kontrolle schrittweise vollständig entfallen.

50.

Welche Grundregel fasst einen verantwortungsvollen beruflichen Einsatz externer KI-Anwendungen am besten zusammen?

Je leistungsfähiger und bekannter ein KI-System ist, desto stärker kann sich der Mitarbeiter auf dessen technische Schutzmechanismen und inhaltliche Qualität verlassen.

Bei kostenpflichtigen und vom Unternehmen bereitgestellten KI-Systemen können betriebliche Informationen grundsätzlich verwendet werden, solange keine besonders sensiblen personenbezogenen Daten enthalten sind.

Nur zulässige und für den jeweiligen Zweck freigegebene KI-Anwendungen einsetzen, sensible und vertrauliche Informationen angemessen schützen und relevante KI-Ergebnisse vor ihrer Verwendung kritisch prüfen.

Entscheidend ist vor allem, dass KI einen messbaren Effizienzgewinn erzeugt; zusätzliche Prüfungen sollten deshalb auf Fälle beschränkt werden, in denen die KI selbst auf Unsicherheiten hinweist.

5 out of 5

Datenschutz-Notfallkontakt: 0176-62 99 10 16 oder 030 – 51 63 50 30 / Kontaktformular

Einleitung zum Wissenstest: Künstliche Intelligenz in der Firmenkorrespondenz

Willkommen zur KI-Online-Schulung

Hinweis zu den Abbildungen

Ergänzende Datenschutz-Online-Schulung