Künstliche Intelligenz im Alltag: Was Verbraucherinnen und Verbraucher wissen sollten

Ob bei der Recherche mith­il­fe eines Sprach­mod­ells oder beim Entsper­ren des Smart­phones per Gesicht­serken­nung: Kün­stliche Intel­li­genz (KI) unter­stützt viele Men­schen im All­t­ag. Für Ver­braucherin­nen und Ver­brauch­er stellt das Bun­de­samt für Sicher­heit in der Infor­ma­tion­stech­nik (BSI) daher niedrigschwellige Infor­ma­tio­nen zu Sicher­heit­srisiken und Schutz­maß­nah­men bere­it – unter anderem in einem „Weg­weis­er für den dig­i­tal­en All­t­ag“ und im Pod­cast „Update ver­füg­bar“.

KI-Anwen­dun­gen erfassen große Daten­men­gen, auf die es mitunter auch Cyberkrim­inelle abge­se­hen haben. Sie ver­suchen zum Beispiel, die Eingaben von Nutzerin­nen und Nutzer auszule­sen. Denkbar ist auch, dass Cyberkrim­inelle Anwen­dun­gen so manip­ulieren, dass sie nicht mehr oder anders als vorge­se­hen reagieren – beispiel­sweise gezielt nach sen­si­blen Dat­en fra­gen. Postadresse, Pass­wörter oder Kred­itkarten­in­for­ma­tio­nen soll­ten jedoch nicht in falsche Hände ger­at­en und daher auch nicht unüber­legt z.B. in Eingabefeldern von Sprach­mod­ellen lan­den. Indem sie möglichst wenig über sich preis­geben, min­imieren Nutzerin­nen und Nutzer im Ern­st­fall den Schaden.

Wer KI nutzt, ver­gisst zudem schnell: Auch sie kann sich irren. Ein Beispiel sind Sprach­mod­elle, die hal­luzinieren. Sie stützen sich etwa auf Quellen, die sie frei erfun­den haben. Im All­t­ag gilt es, das Risiko abzuwä­gen. Irrt sich eine Gesund­heit­san­wen­dung, die auf Basis bes­timmter Symp­tome eine Diag­nose stellt, kann dies ern­sthafte Kon­se­quen­zen haben. Ord­net eine KI-basierte Foto-App hinge­gen das Foto ein­er Per­son dem falschen Kon­takt zu, ist das weniger gravierend. Grund­sät­zlich wichtig ist jedoch, dass Nutzerin­nen und Nutzer die Vorschläge der Anwen­dung kri­tisch hinterfragen.

Nicht zulet­zt ver­wen­den auch Krim­inelle Kün­stliche Intel­li­genz – zum Beispiel um Betrugs­maschen zu verbessern. Mith­il­fe von KI ist es etwa leicht, E‑Mails auch ohne Sprachken­nt­nisse zu ver­fassen. Darüber hin­aus ermöglicht KI es, Videos zu manip­ulieren oder die Stim­men ander­er am Tele­fon zu imi­tieren. So kön­nen sich Betrügerin­nen und Betrüger zum Beispiel als enge Kon­tak­te ein­er Per­son aus­geben, eine Not­lage fin­gieren und um Geldzahlun­gen bit­ten. Wer Ver­dacht schöpft, sollte die jew­eilige Per­son oder auch Insti­tu­tion auf anderem Weg kon­tak­tieren – im Zweifels­fall analog.

Den „Weg­weis­er für den dig­i­tal­en All­t­ag: Kün­stliche Intel­li­genz sich­er nutzen“ mit allen elf Hand­lungsempfehlun­gen kön­nen Ver­braucherin­nen und Ver­brauch­er sowie Mul­ti­p­lika­toren aus der Präven­tions- und Ver­mit­tlungsar­beit kosten­los auf der Web­seite des BSI herun­ter­laden oder als Print­ver­sion bestellen. In der 50. Folge des BSI-Pod­casts „Update ver­füg­bar“ blickt das Mod­er­a­tions­duo außer­dem gemein­sam mit BSI-Mitar­bei­t­erin Anni­ka Rüll auf den Hype rund um KI und disku­tiert: Wo ste­ht KI heute?

Darüber hin­aus find­en Ver­braucherin­nen und Ver­brauch­er auch auf der Web­seite des BSI weit­er­führende Infor­ma­tio­nen rund um IT-Sicher­heit und IT-The­men wie Kün­stliche Intel­li­genz.

Bun­de­samt für Sicher­heit in der Informationstechnik

Press­es­telle
Tel.: 0228–999582-5777
E‑Mail: presse@bsi.bund.de
Inter­net: www.bsi.bund.de