Es werden immer mehr Gefahren bekannt, die durch Künstliche Intelligenz (KI) bestehen. Ob bei Fake-News, Fotos, Videos, bis hin zu anderen Bereichen. In manchen droht die Gefahr, dass man sich auf KI verlässt und wenn etwas schiefgeht, dann wird es ganz sicher heißen, dass es leider die Schuld der KI war. Man stelle sich dies in der Medizin vor, wo es ebenfalls einen regelrechten Hype darum gibt.
Und nun gab es die Meldung, dass KI in Verbindung mit einer Kamera sehr schnell die Namen von Menschen herausfinden kann, oft sogar die Wohnanschrift der Person. Man stelle sich einmal vor, was dadurch alles möglich ist: Stalking, Bedrohung oder gar Einbrechen, da gerade man nicht zu Hause ist! Was kann man tun? Nur noch maskiert auf die Straße gehen? Wäre dies nicht irre?
Das fanden nun zwei Studenten von Harvard heraus. Sie wollten aufzeigen, welche Gefahr besteht. Um ein Programm zu entwickeln, benötigten nur wenige Tage, dies auch unter Verwendung von Chatbot ChatGPT.
Dazu verwendeten sie eine Brille von Ray Ban und Meta entwickelte Brille. Klar, das ist nur ein Beispiel, funktioniert es doch mit vielen Kameras, so natürlich auch den von Handys.
Gefahren für die Menschheit
Und natürlich bestehen viele Gefahren für die Menschheit, ob im Gesundheitssystem, beim Arbeitsplatz, und vielem mehr, bis hin zum Rückgang der eigenen Denkmöglichkeit, denn unser Gehirn wird nicht mehr gefordert. Wir werden abhängig, denn die KI denkt für uns.
Der Hype um das Geschäft, setzt die Firmen unter Druck, die Künstliche Intelligenz entwickeln. Sie müssen schneller als die Konkurrenz ihr Produkt auf den Markt bringen. Dabei wird definitiv nicht genügend auf Fehler geachtet, was irreführende und gefährliche Folgen haben kann.
Es bedarf ganz dringend Gesetze zur Verwendung von KI und nicht erst, wenn der Supergau passiert ist. So muss es ethische Richtlinien, eine transparente und sichere Datennutzung, Investitionen in Bildung und mehr geben. Ebenso muss gesichert sein, dass Programme mit genügend Daten entwickelt werden.
Quellen und weitere Informationen:
Studenten nutzen Metas smarte Brille zur Identifikation von Passanten
04.10.2024 – Ein Blick reicht, und die Brille spuckt aus, wer die Person ist, die man gerade anschaut, samt Adresse, Telefonnummer und Biografie. Zwei Harvard-Studierende haben ein solches System entwickelt – als Warnung.
weiterlesen bei Spiegel
Die Technikwebsite „The Register“ bezeichnet es als »Datenschutz-Albtraum:
Harvard duo hacks Meta Ray-Bans to dox strangers on sight in seconds
04.10.2024 – ‚You can build this in a few days – even as a very naïve developer‘
continue reading at The Register
Wie die Studenten das Projekt umgesetzt haben
I-XRAY: The AI Glasses That Reveal Anyone’s Personal Details—Home Address, Name, Phone Number, and More—Just from Looking at Them
continue reading at Google Docs
Suchmaschine für Gesichter pim eyes
Mehr zu den Gefahren von KI
Studie aus den USA: Warum KI-Systeme lügen und betrügen können
11.05.2024 – Künstliche Intelligenz gilt als innovativer Meilenstein und ist aus unserem Alltag nicht mehr wegzudenken. Wenn KI-Systeme jedoch nicht nur helfen, sondern manipulieren – was dann?
Peter S. Park, Hauptautor der Studie: „Wir fanden heraus, dass die KI von Meta gelernt hatte, ein Meister der Täuschung zu sein.“
weiterlesen bei ZDF Heute
Die 10 größten Gefahren der KI + Lösungen für die sichere Entwicklung von Künstlicher Intelligenz
Gefahren von KI:
1. Bias und Diskriminierung
2. Arbeitsplatzverlust
3. Beeinträchtigung Privatsphäre
4. Sicherheitsrisiken durch künstlicher Intelligenz
5. Ethik und Verantwortlichkeit
6. Mangelnde Transparenz und unkorrekte Antworten
7. Gefahr der Abhängigkeit von KI-Entscheidungen
8. Missbrauch von Deepfakes
9. Unbeabsichtigte Verschärfung von Ungleichheiten
10. Mangelnde Berücksichtigung von Langzeitfolgen
weiterlesen bei Secutityszene
Warum KI so schwer zu kontrollieren ist
15.12.2023 – Wenn die Menschheit nicht aufpasst, könnte ihr die Entwicklung immer stärkerer KI-Modelle entgleiten – wieso klare Zielvorgaben unerlässlich sind und worin die Gefahr des Kontrollverlusts besteht.
weiterlesen bei Spektrum
Wie Künstliche Intelligenz unsere Menschenrechte bedroht
- Die drei wichtigsten Begriffe: Was sind KI, Generative KI und Algorithmen?
- Diskriminierung, Manipulation und Angriffe auf die Privatsphäre: Welche Gefahren für die Menschenrechte bringt KI mit sich?
- Chancen: Wie kann Künstliche Intelligenz den Einsatz für Menschenrechte unterstützen?
- KI und Menschenrechte: Forderungen von Amnesty International
- Welche KI-Systeme müssen verboten, um Menschenrechte zu schützen?
- Glossar und Definition zum Thema KI
weiterlesen bei Amnesty International
WHO warnt vor Risiken durch Generative Künstliche Intelligenz im Gesundheitsbereich
19.01.2024 – Die Weltgesundheitsorganisation (WHO) hat vor den Risiken bei der Verwendung von Generativer Künstlicher Intelligenz im Gesundheitsbereich gewarnt. Eine in Genf veröffentlichte Analyse der WHO kommt zu dem Schluss, die neue Technologie könne zwar in verschiedenen Bereichen der Medizin hilfreich sein. Wenn sie aber nicht mit ausreichend Daten entwickelt werde, könne sie irreführende und potenziell gefährliche Ergebnisse liefern.
weiterlesen bei Ärzteblatt
Titelbild von Herbert Aust auf Pixabay
Um die Entwicklung bei den einzelnen Themen zu sehen,
die Schlagwörter zu früheren Beiträgen:
