OpenAI, eine US-amerikanische Forschungsorganisation für Künstliche Intelligenz (KI), hat kürzlich ein Text-zu-Video-Modell mit dem Namen Sora entwickelt. Mit KI können nun mit wenigen Textbefehlen im Handumdrehen realitätsnahe Videos erstellt werden. Können wir unseren Augen also bei all den Videos im Netz ab sofort noch trauen?
Der internationale Tag für mehr Sicherheit im Internet war bereits am 6. Februar. Wegen der Dringlichkeit des Themas weitete die Initiative „Safer Internet“ den gesamten Februar zum „Safer Internet Monat“ aus. Ziel ist es, vor allem Schüler:innen bewusst zu machen, wie sie digitale Medien sicher und verantwortungsvoll nutzen können. Das macht unter anderem der Salzburger KI-Experte und „Safer Internet“-Botschafter Momo Feichtinger.
Zurück zum neuen OpenAI-Programm: Momo Feichtinger sieht mit Sora die Entwicklung von KI weder als Fluch, noch als Segen. Positiv sei, dass mit so einem Tool die Kreativität demokratisiert werde: „Nicht das meiste Geld, sondern die beste Geschichte gewinnt.“ Die negative Kehrseite hält er im Gespräch mit SALZBURG24 am Donnerstag auch fest: „Zu 100 Prozent kann man es nie wissen, was im Internet und insbesondere in sozialen Medien echt ist und was nicht.“
Vertrauen im Internet werde schwerer
Künstliche Intelligenz mache das Internet nicht unsicherer, aber es wird schwieriger, zu vertrauen, was wahr ist und was nicht. Offizielle Quellen, die gewisse Autoritätsmerkmale haben, würden vermutlich keine falschen, KI-generierten Inhalte bringen. Aber es kommt darauf an, welchen Quellen die Menschen generell vertrauen“. Die Wahrscheinlichkeit, dass vertrauenswürdige Plattformen gehackt und für Falschinformationen genutzt werden, sei laut dem Experten gering.
Wie kann man KI selbst erkennen?
Ein verlässliches Tool, das KI-generierte Texte und Co. als solche erkennt, gebe es derzeit nicht. Zu oft lägen sie falsch. Ob ein zuverlässiges in naher Zukunft kommt? „Das ist ein Katz-und-Maus-Spiel. Es wird aber mehr Geld in die KI-Tools gesteckt, als in Prüfsysteme“, weiß der KI-Experte.
Künstliche Intelligenz entwickelt sich schnell weiter, bestehende Tools werden stetig verbessert. Derzeit weisen laut Feichtinger drei Merkmale auf mit Sora generierte Videos hin.
- Kameraführung: KI-Tools wie Sora sind darauf programmiert, bestmögliche Resultate zu liefern. Die Videos sehen von der Kameraführung her perfekt aus. Wenn man sich denkt, „könnte besser sein“, ist es ein Zeichen für ein von Menschen gedrehtes Video.
- Falscher Text: In den mit Sora erstellten Videos sind die Texte derzeit meist noch falsch, vor allem bei langen Passagen. Das wird in Zukunft vermutlich aber verbessert werden.
- Slow-Motion: Die Videos sind häufig in Zeitlupe.
Bei Videos, die von anderen KI-Programmen erstellt werden, gibt Feichtinger noch den Tipp, auf die Handbewegungen zu achten. Oft passen diese nicht mit dem Inhalt der gesprochenen Worte nicht zusammen.
Betrug mit KI-Nachrichten nimmt zu
Solange die KI-generierten Videos zur Unterhaltung dienen, müsse man laut dem KI-Experten auch nicht unbedingt erkennen, dass es ich um ein „falsches“ Video handle. Schließlich würde so niemand zu Schaden kommen. Allerdings nehmen laut dem Europäischen Verbraucherzentrum die Betrugsfälle mit KI-genierten Nachrichten zu. Betrüger:innen senden täuschendechte Videos oder Sprachaufnahmen an Familienmitglieder oder Bekannte und fordern Geld. Laien könnten den Unterschied oft nicht erkennen.
„Ich habe kürzlich ein Video von mir von KI erstellen lassen. Meine Mama hat es abgekauft, dass es sich dabei tatsächlich um mich handelte“, erzählt der KI-Experte. Er empfiehlt daher, ein Passwort oder eine Sicherheitsfrage im Familien- und Bekanntenkreis zu haben. Sollte sich ein:e Betrüger:in als bekannte Person ausgeben und sich mit einer Fake-Nachricht bei einem melden, kann man sich mit dem zuvor ausgemachten Passwort absichern.
Aufklärung zu Künstlicher Intelligenz für alle
Von vielen Seiten werden Schutzmaßnahmen gegen Künstliche Intelligenz gefordert. Einige sehen vor allem KI-Hersteller in der Pflicht. Ob alle Hersteller die Maßnahmen einhalten würden, sei fraglich, meint Feichtinger. Vielmehr wünscht er sich eine allgemeine, stets aktuelle Bildung für die gesamte Bevölkerung darüber, was KI kann und worin die Gefahren liegen. „Das ist die beste Schutzmaßnahme und auch realistisch machbar“.
Um alle Personen entsprechend zu erreichen, sieht der KI-Trainer und Safer Internet-Botschafter die Regierung in der Pflicht: „KI ist ein nationales Gefahrenthema. Bei Covid hat es auch österreichweite Kampagnen gegeben.“ Vor Künstlicher Intelligenz fürchten müsse man sich aber nicht. Wenn er einen Volksaufruf starten könne, wäre es: „Macht das Internet mit tollen Geschichten schöner“, meint Feichtinger abschließend.
(Quelle: salzburg24)
