Drei amerikanische Mediziner veröffentlichten vor Kurzem einen interessanten Bericht in den Annals of Internal Medicine, der aufzeigt, warum man AI-Bots wie ChatGBT nicht einfach blind vertrauen sollte. Laut dem Bericht wollte ein 60-Jähriger von ChatGBT erfahren, wie er Natriumchlorid (Kochsalz) in seiner Ernährung ersetzen kann. Der Bot schlug dann wohl Bromidsalze als Alternative vor, die der Patient über einen Zeitraum von 3 Monaten zu sich nahm. Damit vergiftete er sich aber selbst und erzeugte einen der wenigen seltenen Fälle von Bromismus in der modernen Zeit.
For 3 months, he had replaced sodium chloride with sodium bromide obtained from the internet after consultation with ChatGPT, in which he had read that chloride can be swapped with bromide, though likely for other purposes, such as cleaning. (via)
Der Patient war laut dem Bericht wohl ziemlich paranoid und lebte unter selbst auferlegten Ernährungseinschränkungen. Er erzeugte sein eigenes Wasser, nahm nur gewisse Lebensmittel zu sich und verwendete auch selbstgemachtes Salz. Zuerst vermutete er, dass sein Nachbar ihn vergiftete. Es dauerte wohl einige Zeit, bis das Ärzteteam zusammen mit der Giftkontrollabteilung die Zusammenhänge zwischen den Symptomen, dem Bromismus und den Hintergründen aufdecken konnte. Bromidsalze können zwar als Ersatz für Kochsalz fungieren, aber dieser Austausch ist nur bei Dingen wie Reinigern relevant. Dieser Zusammenhang wurde dem Man aber wohl nicht von ChatGBT bereitgestellt.
Dieser Vorfall ist nicht nur eine interessante Fallstudie über eine im Jahr 2025 nicht mehr unbedingt oft auftauchende Erkrankung, sondern er zeigt auch ein interessantes menschliches Verhalten auf. Der Herr war scheinbar skeptisch genug, um sein eigenes Wasser aufzuarbeiten. Trotzdem hat er den Informationen von ChatGBT wohl ohne weitere Recherche einfach so vertraut. Solche Chat-Bots sind im Grunde nur eine wirre Ansammlung von Daten aus dem Internet, die in keinster Weise korrekt sein müssen. Das blinde Vertrauen in diese bisher noch nicht perfekten Systeme ist auf jeden Fall eine Gefahr, die im Vergleich zu anderen Themen wie reduzierten Arbeitsplätzen oder dem „AI-Uprising“ viel zu selten thematisiert wird.
Anzeige
Natürliche Auslese 2.0
Und für die Aluthut Träger. Skylink ist schon da, nennt sich nun ChatGPT – oder lieber ChatGBT ?
Man kann das P problemlos gegen ein B eintauschen, ohne sich lexikalisch zu verhiften.
„Die Welt, die Regierung, die Wirtschaft und die Menschen wollen mich vergiften, deswegen bereite ich mein eigenes Wasser zu! Hey du, KI eines riesigen Wirtschaftsunternehmen, die nur Daten aus der Breite der Menschheit zusammenträgt, wie löse ich mein Problem?!“
Hab das mal Testweise bei ChatGPT gefragt, ohne Zusammenhang und wurde sofort vollumfänglich aufgeklärt.
Würde mich wirklich interessieren in welchem Kontext Chatgpt da gefragt wurde und was wirklich als Antwort kam.
Ich glaube diese Story so nicht ganz.
Ansonsten sollte natürlich jeder noch die 2 Gehirnzellen haben, um weitere Quellen zu nutzen, um Informationen zu bestätigen.