Um KI-Fehlauswürfe zu erkennen, braucht man Faktenwissen und logisches Denkvermögen.

Dies sind also Voraussetzungen für eine einigermaßen sinnvolle KI-Nutzung.
Wer nicht intelligenter ist als KI, dem leistet KI Bärendienste.

Es wird immer doller: KI wird für die Reviews KI-generierter wissenschaftlicher Veröffentlichungen eingesetzt, weil die Flut solcher bei internationalen Konferenzen eingereichten paper exorbitant gestiegen ist.
Selbst für durchschnittliche natürliche Intelligenz liegt offen zu Tage, daß ein junger Wissenschaftler binnen Jahresfrist keine 100 (in Worten: einhundert) Aufsätze zustandebringen kann, man lese und staune: https://www.theguardian.com/technology/2025/dec/06/ai-research-papers

Mir fällt für diese Vorgänge nur die Beurteilung: Selbstentmündigung, ein.

https://www.quarks.de/gesellschaft/wissenschaft/fake-studien/

https://www.deutschlandfunk.de/reformation-des-publizierens-stockholm-deklaration-gegen-fake-forschung-100.html

Mir fällt für diese Vorgänge nur die Beurteilung .....

...... Selbstbefriedigung ein.

Lem hat es vorhergesehen, Maschinen beschäftigen sich mit ihres gleichen der Mensch bleibt dabei aussen vor.

Maschinen beschäftigen sich mit ihres gleichen der Mensch bleibt dabei aussen vor.

Jede Maschine wurde irgendwann von irgendwem
programmiert.
Und denken wie Menschen kann sie selbstständig
nicht und hat auch keine Emotionen.
Sie kennt nur die reine Logik.

Sie kennt nur die reine Logik.

Und wie kommt es dann zu diesen Halluzinationen?

KI kommt der menschlichen Faulheit entgegen, welche das "sapere aude" schonmal einen guten Mann sein läßt, und wird sich deshalb durchsetzen.

Den ohnehin zweifelhaften Sinn des "publish or perish" wird sie allerdings zusätzlich diskreditieren.

Ich mußte jetzt in einem neuen Verlagsvertrag für ein Buch 1. versichern, daß es selbst oder auch nur Teile davon nicht durch KI entstanden sind, und 2. zustimmen, daß es zur Schulung von KI eingesetzt werden darf. Letzteres habe ich so verstanden, daß die noch zu erstreitenden Vergütungen für diese Schulung dem Verlag zugute kommen soll, nicht dem Autor.

Jede Maschine wurde irgendwann von irgendwem
programmiert.
Und denken wie Menschen kann sie selbstständig
nicht und hat auch keine Emotionen.

1. Jeder Mensch wurde irgendwann von irgendwem erzogen & geprägt = programmiert.
2. Können Menschen selbständig denken oder bilden sie sich das nur ein?
2a. Schon dieser zitierte Satz, bereits tausendmal gehört, klingt nicht nach selbständigem Denken, sondern nach einer bloß wiederholten Phrase.
3. Zu den menschlichen Emotionen im Vergleich zu denen künstlicher Wesen empfehle ich den Film "Blade Runner" von Ridley Scott. Er stellt die Frage: Wie emotional sind eigentlich Menschen? Die Antwort fällt nicht sehr günstig aus.

Was selbständiges Denken und Emotionalität angeht, so machen wir uns möglicherweise Illusionen, die unserer Eitelkeit geschuldet sind.

Selbstüberschätzung (Hybris) war immer schon ein Problem des Menschen.

Bei Stanisław Lem, darin stimme ich βροχή zu, findet man interessante Gedanken zu Kybernetik (wie man das damals nannte), Robotik und künstlicher Intelligenz. Dieser Mann wenigstens konnte selbständig denken.

Und wie kommt es dann zu diesen Halluzinationen?

"Halluzinationen" ist ein poetisches Bonmot.

Profan gesagt sind das Fehler, Fehlverarbeitungen des Inputs.
Die Bezeichnung KI ist Hochstapelei, das Ding strotzt vor Fehlern.
Dass es Textbausteine für Weißkittel und Juristen automatisiert zusammenwürfelt, ist den Betroffen Beweis genug für Intelligenz.

Wie kommt es zu Fehlern?

EDV-fehler gibt es, seit es EDV gibt.