Daniel Guagnin

KI um persönlichen Rat fragen, was soll da schon schief gehen?

Forscher haben herausgefunden, dass Chatbots bei zwischenmenschlichen Ratschlägen zu unkritisch zustimmen – selbst wenn das Verhalten der Nutzer schädlich oder illegal ist. Die Nutzer wurden dadurch noch stärker von ihrer eigenen Meinung überzeugt und zeigten weniger Empathie, bevorzugten aber trotzdem die zustimmende #KI.

#Sycophantie (übertriebene Anpassung an Nutzermeinungen)

https://news.stanford.edu/stories/2026/03/ai-advice-sycophantic-models-research

@fiff_de@mastodon.bits-und-baeume.org

Provokante These: Was the Iran War Caused by AI #Sycophancy? - https://houseofsaud.com/iran-war-ai-psychosis-sycophancy-rlhf/

Vorsicht Detailhypothesen, was die #KI für "#Denkfehler" gemacht hat, lenkt ab von der relevanteren Beobachtung, dass Verantwortliche sich bei der Planung vorschnell auf stochastische Papageien (Chatbots) stützen.

Habt ihr in eurem beruflichen Umfeld ebenfalls die Erfahrung gemacht, dass Kolleg:innen anfangen den Antworten auf KI Prompts mehr zu vertrauen als den eigenen Leuten?

@fiff_de@mastodon.bits-und-baeume.org

RE: @KIT_Karlsruhe@social.kit.edu

So geht Wissenschaftskonmunikation, dezentral und unabhängig. Eigener Masto-node für die Organisation. Funktioniert nach aussen, und nach innen (lokale Timeline). Ergänzend: Auf den monopol-Plattformen raus verlinken auf den eigenen Microblog.

Ich war letztens halbwegs frustriert als mir ein praktizierender Therapeut erklärte, dass sein Job überflüssig würde. Deja-vu zu Weizenbaums Eliza - schon da (1966)haben Therapeuten ihren Untergang antizipiert.

Zwar performt in einem Podcast dazu chatGPT erwartbar schlecht, das scheint aber den Enthusiasmus der Podcaster nicht zu hemmen. Leider fehlt kritisches Bewusstsein, selbst bei Therapeuten und so genannten KI-Experten:

🚀 Unser Ziel:
Wir unterstützen Organisationen dabei, KI gezielt, effizient und digital souverän einzusetzen – für nachhaltigen Erfolg.

In den Forschungsprojekten #KIDD und #KICockpit haben wir beim nexus Institut unser Methodenset entwickelt, und wenden diese in der Beratung an.
Im #ErfaKI der RKW Bayern e.V. bin ich als Moderator regelmäßig im Austausch mit Unternehmen über die Herausforderungen des Einsatzes von KI.
https://www.rkwbayern.de/unsere-angebote/erfahrungsaustauschkreise/ki-und-digitalisierung/

As an interdisciplinary group researching cybersecurity and society, we are organizing a workshop at this year's https://soup.page

This workshop aims to bring together interdisciplinary perspectives, focusing on the intersection of Human-Centred Security and other disciplines, particularly the social sciences. We believe that the "frictions" between these communities offer exciting opportunities for new research and improved collaboration.

https://nexusinstitut.de/workshop-at-symposium-on-usable-privacy-and-security/

Diese drei Fragen sollten Sie sich stellen, bevor sensible Unternehmensdaten in KI-Systeme fließen:
🔐Wissen und bestimmen wir jederzeit, wo unsere (sensibelsten) Daten liegen – und wer tatsächlich Zugriff darauf hat?
🤖 Wissen wir welche Daten überhaupt relevant und notwendig für Automatisierungspotenziale?
🔄 Können wir Anbieter wechseln oder unabhängig weiterarbeiten, wenn sich politische, wirtschaftliche oder vertragliche Rahmenbedingungen ändern?
(Thread) #DigitaleSouveränität #KI