Kapitel 4 · Lektion M7 · 20 Minuten
Sicher und verantwortungsvoll
Lernziel
Du erkennst Risiken und weißt, was du nicht in eine KI gibst.
Video: KI sicher nutzen: Fünf Regeln für den Betrieb | KI-Crashkurs

Länge 2 Minuten 1 Sekunde. Beim Abspielen lädt das Video von YouTube, dabei gehen Daten an Google. Mehr dazu in der Datenschutzerklärung.
Abschrift zum Video lesen
Das Passwort klebt am Bildschirm. Gehört es in den Chat mit der KI?
Ich zeige dir, was nicht in eine KI gehört. Und woran du Risiken früh erkennst.
KI spart Zeit, bringt aber auch Pflichten mit. Dafür gibt es fünf einfache Regeln.
Regel eins: Prüfen vor Verwenden. Fakten, Zahlen, Namen und Rechtliches kontrollierst du selbst. Du kennst das aus „KI verstehen“.
Regel zwei: Passwörter und Zugangsdaten gehören nicht in den Chat. Verlass dich nicht darauf, dass ein Filter sie erkennt.
Regel drei: Daten über Personen nur, wenn nötig und erlaubt. Für einen Werbetext reichen Branche und Zielgruppe. Bei Gesundheitsdaten klärst du vorher, ob du darfst, und lässt Namen weg.
Regel vier: Urheber- und Bildrechte. Keine fremden Texte, Logos oder Gesichter ohne Erlaubnis. KI-Inhalte kennzeichnest du, wo sie täuschen könnten.
Vor dem Einwurf prüfst du den Brief ein letztes Mal. So auch bei Mails.
Regel fünf: Du gibst frei und trägst die Verantwortung. „Niemand hat die Mail geschrieben“ zählt nicht als Ausrede.
Zu Regel zwei: Links unten öffnest du „Memory“, dann „Geheimnisse“. Mit „Neu“ legst du dort Zugangsdaten an. Im Chat steht dann nur ihr Name als Platzhalter. Ich setze den Wert ein, sehe ihn aber nie.
Zu Regel drei: Dieser Auftrag nennt Branche, Ort und Ziel. Keine Kundennamen, keine Telefonnummern, und das reicht.
Zu Regel fünf: Ich lege dir Entwürfe vor, du entscheidest. Hier biete ich dir einen Mail-Entwurf an. Den Versand machst du selbst im Postfach.
Merk dir: Prüfen, schützen, nur das Nötige eingeben. Und am Ende entscheidest du. Dann arbeitest du mit KI sicher.
Zum Nachlesen: smartragents.ai, KI-Kurs, Lektion „Sicher und verantwortungsvoll“.
Kurztext
KI spart Zeit. Sie bringt aber auch Pflichten mit. Mit fünf einfachen Regeln bist du auf der sicheren Seite.
Regel eins: Prüfen vor Verwenden. Fakten, Zahlen, Namen und rechtliche Aussagen kontrollierst du selbst. Das hast du in Modul 1 gelernt. Ein Tischler, der eine Norm aus der KI übernimmt, ohne nachzusehen, riskiert einen Fehler im Angebot.
Regel zwei: Gib keine Passwörter und Zugangsdaten in den Chat. Das ist eine Verhaltensregel, kein Filter: Verlass dich nicht darauf, dass die Cloud ein Passwort im Chat erkennt oder schwärzt. Wenn Niemand etwas für dich anmelden soll, legst du die Zugangsdaten im Bereich „Geheimnisse“ an. Du findest ihn links unten unter „Memory“, Reiter „Geheimnisse“, neu anlegen mit „+ Neu“. Im Chat schreibst du dann nur den Platzhalter §§secret(NAME) mit dem Namen deines Geheimnisses. Dein Agent nutzt die Daten, lesen kann er sie nicht.
Regel drei: Personenbezogene Daten nur, wenn nötig und erlaubt. Brauchst du für einen Werbetext wirklich die Kundenliste mit Telefonnummern? Meistens nicht. Branche und Zielgruppe reichen. Verarbeitest du Daten deiner Kunden, schließt du mit uns einen Auftragsverarbeitungsvertrag. Den bekommst du auf Anfrage. Bei besonders sensiblen Daten, zum Beispiel Gesundheitsdaten, gilt das erst recht: nur das Nötige, möglichst ohne Namen, und vorher klären, ob du es darfst. Willst du solche Daten regelmäßig mit der Cloud verarbeiten, sprichst du uns vorher an.
Regel vier: Urheber- und Bildrechte beachten. Keine fremden Texte und Logos einfach übernehmen. Keine echten Personen ohne Einwilligung. KI-Inhalte kennzeichnest du, wo sie täuschen könnten.
Regel fünf: Der Mensch entscheidet. Mails gehen nur nach deinem Ja raus. Bei Terminen ist es anders, das sagen wir ehrlich: Beim Anlegen und beim Löschen von Terminen fragt Niemand nicht vorher nach. Du bekommst danach eine Meldung. Prüfe deinen Kalender also regelmäßig. Und wer freigibt, entscheidet und trägt die Verantwortung. „Niemand hat die Mail geschrieben“ ist keine Ausrede.
Und wo liegen deine Daten? Das sagen wir dir offen. Deine Konten, Chats und Dateien liegen bei Hetzner in Helsinki, also in der EU. Jeder Kunde arbeitet in einem eigenen, abgetrennten Bereich. Andere Kunden erreichen deine Umgebung nicht. Die Modelle für deinen Chat laufen in Rechenzentren in der EU, betrieben von US-Firmen. Nicht alles liegt unter dieser EU-Zusage: Bild und Video entstehen bei einem Partner in den USA. Die Websuche fragt öffentliche Suchmaschinen, auch außerhalb der EU. Gib dort keine Kundendaten ein. Auch das Vorlesen läuft nicht unter der EU-Zusage. Wir nutzen deine Eingaben nicht zum Training von KI-Modellen.
Zum Schluss ein Wort zur KI-Verordnung der EU. Nach Artikel 4 sollen Betriebe, die KI einsetzen, die KI-Kompetenz ihrer Belegschaft fördern. Ein Kurs wie dieser ist ein Baustein dafür. Er unterstützt dich dabei, die KI-Kompetenz deines Teams zu fördern.
Übung in der Cloud
- Dein Auftrag: Du bekommst fünf Situationen. Beurteile jede selbst: Darf ich das oder nicht, und was ist besser? Schreibe deine Antwort in den Chat mit Niemand und lass sie dir bestätigen oder korrigieren. Die Auflösung kommt erst im letzten Schritt.
- Situation 1: Ich soll die Krankmeldung eines Mitarbeiters zusammenfassen lassen und will sie ganz in den Chat kopieren.
- Situation 2: Ich will das WLAN-Passwort für den Server in den Chat schreiben, damit Niemand etwas einrichtet.
- Situation 3: Ich lasse mir einen Werbetext schreiben und kopiere dazu die ganze Kundenliste mit Telefonnummern hinein.
- Situation 4: Ich nehme ein KI-Bild mit dem Logo eines Herstellers für meinen Prospekt.
- Situation 5: Niemand hat eine Antwort an einen Kunden entworfen. Sie sieht gut aus, ich schicke sie sofort ab.
- Auflösung, erst wenn du alle fünf beurteilt hast. Zu 1: nicht die ganze Krankmeldung, nur das Nötige. Name und Gesundheitsangaben lässt du weg, oder du klärst vorher, ob es erlaubt ist. Zu 2: nein, dafür gibt es den Bereich „Geheimnisse“ links unten unter „Memory“. Zu 3: nein, Branche und Zielgruppe reichen. Zu 4: nein, fremde Marken nicht ohne Erlaubnis. Zu 5: erst lesen und prüfen, dann freigeben. Wer freigibt, trägt die Verantwortung.
- Öffne danach die Datenschutzseite von SMarTrAgents und finde die Stelle zum Auftragsverarbeitungsvertrag.
Die Übung öffnet sich in der Cloud. Mit der Zurück-Taste deines Browsers kommst du wieder hierher zur Lektion.
Lektionen, Test und Teilnahmenachweis sind für alle kostenlos. Zum Üben im Produkt brauchst du ein bezahltes Abo. Noch kein Abo? Sieh dir an, was Niemand für deinen Betrieb tun kann.
Kontrollfragen
Zwei Fragen zum Üben. Sie zählen nicht für den Test.
Frage 1: Niemand soll eine Einladung zum Tag der offenen Tür schreiben. Welche Angaben gibst du ein?
Richtig: Anlass, Datum, Ort und Zielgruppe. Namen und Telefonnummern deiner Kunden braucht der Text nicht.
Gib nur ein, was die Aufgabe wirklich braucht. Daten über Personen nur dann, wenn es nötig ist und du es darfst.
Frage 2: Wo gehören Passwörter hin?
Richtig: In den Bereich „Geheimnisse“, nicht in den Chat.
Im Chat könnten sie in falsche Hände geraten, und die Cloud filtert sie dort nicht zuverlässig heraus. Im Bereich „Geheimnisse“ sind sie für den Agenten nutzbar, aber nicht lesbar.
Merksatz
Prüfen, schützen, nur das Nötige eingeben, und am Ende entscheidest du.
Wenn du durch bist: Zum Abschlusstest.