Die im September veröffentlichte Studie „Do You Trust ChatGPT? - Perceived Credibility of Human and AI-Generated Content“ weist auf eine gefährliche Pattsituation hin: KI- und menschengenerierte Online-Inhalte werden als ähnlich glaubwürdig wahrgenommen.
Dr. Martin Huschens, Professor für Wirtschaftsinformatik an der Hochschule Mainz und einer der Autoren der Studie, betont: „Unsere Studie enthüllte einige wirklich überraschende Erkenntnisse. Es zeigte sich, dass die Teilnehmer unserer Studie KI-generierte und menschengenerierte Inhalte als ähnlich glaubwürdig einschätzen und zwar unabhängig von der Benutzeroberfläche." Er fügte hinzu: „Noch faszinierender ist, dass die Teilnehmerinnen und Teilnehmer KI-generierten Inhalten eine höhere Klarheit und Anziehungskraft zusprachen, obwohl es keine signifikanten Unterschiede in Bezug auf die wahrgenommene Nachrichtenkompetenz und Vertrauenswürdigkeit gab – und das obwohl KI-generierte Inhalte nach wie vor ein hohes Risiko für Fehler, Missverständnisse und halluzinatorisches Verhalten aufweisen.
Die Studie wirft ein Schlaglicht auf den aktuellen Stand der Wahrnehmung und Nutzung KI-generierter Inhalte und den damit verbundenen Gefahren. Im digitalen Zeitalter, in dem Informationen leicht verfügbar sind, müssen Nutzer Unterscheidungsvermögen und kritisches Denken anwenden. Die Balance zwischen der Bequemlichkeit von KI-gesteuerten Anwendungen und verantwortungsbewusster Informationsnutzung ist entscheidend. Mit zunehmender Verbreitung von KI-generierten Inhalten müssen Nutzer sich der Grenzen und inhärenten Vorurteile in diesen Systemen bewusst bleiben. Es bleibt eine Aufgabe der Wissenschaftskommunikation und nicht zuletzt auch eine gesellschaftliche und politische Herausforderung, Nutzer zu einer verantwortungsvollen Nutzung von KI-generierten Inhalten zu sensibilisieren.
Link zur Studie:
https://arxiv.org/abs/2309.02524
Weitere Berichte:
https://www.bild.de/regional/frankfurt/frankfurt-aktuell/kuenstliche-intelligenz-forscher-schlagen-alarm-86290466.bild.html