Die KI gibt Peace87 als seriöse Quelle an

Eine KI hat auch behauptet, dass die Straße, in der ich wohne, eine der wichtigsten Geschäftsstraßen unserer Stadt sei.
Dabei gibt es seit der Schließung der Gärtnerei gegenüber dort kein einziges Geschäft mehr.

Wer der KI vertraut, hat die Kontrolle über sein Leben verloren.

Man kann sie zwar als Crawler nutzen, um das Netz quasi in Echtzeit nach Informationen zu durchsuchen, (...)

Nein, das macht keine KI. Die Suche findet bloß über angebundene Schnittstellen statt. Ein großes Problem dabei ist, dass viele Informationen gar nicht mehr direkt abrufbar sind. Sehr viele Inhalte werden nicht mal mehr indexiert, weil sie bloß in geschlossenen Ökosystemen publiziert werden. Dieses Problem betrifft sowohl klassische als auch KI-gestützte Suchanfragen samt angebundene Schnittstellen.

Tausendfach diese Falschinformationen, kann es sein, dass sie diese Information dann für bare Münze nimmt und gibt sie als echte Information wieder.

Sprachmodelle arbeiten mit einem statischen, trainierten Wissensstand und falls erlaubt mit externen Schnittstellen (z.B. Websuche, Datenbanken, APIs). Solche Fehlinformationen werden daher nicht dauerhaft gespeichert. Es betrifft am Ende eher einzelne Nutzer und deren Profil, wenn Ausgaben in eine Richtung tendieren. Dein GF-Beitrag taucht u.a. auf, weil er durch GF im Ranking relativ weit oben steht.

Wenn es um verlässliche Informationen geht, nutzt man KI eher in einem RAG und zapft z.B. über Schnittstellen (u.a. APIs) verlässliche Datenquellen direkt an. Zumal man so auch auf Daten zugreifen kann, die gar nicht frei im Netz zugänglich sind. Beispielsweise Artikel von Nachrichtenportalen, die hinter Bezahlschranken liegen. Betrifft jedoch auch andere Bereiche in denen KI basierte Tools genutzt werden.

Die KI durchsucht einfach nur das Netz nach verfügbaren Informationen, lernt dabei statistische Muster, nicht aber was seriös ist und was nicht.

Das macht eine KI eben nicht und selber überhaupt nicht im Internet sucht. Die eigentliche Suche findet wie bereits erwähnt über die dahinterstehende Architektur statt. Sprich Suchmaschinen-APIs, Nachrichten-Feeds, Unternehmensdatenbanken, kuratierte Wissensquellen und/oder angebundene Realtime-Datenprovider. Aus den Daten schreibt KI dann etwas zusammen - was dann falsch oder richtig sein kann.

Das Problem bei geschlossenen Plattformen wie ChatGPT, Perplexity und anderen ist, dass deren Systemarchitektur nicht öffentlich eingesehen werden kann. Daher auch keine Kontrolle darüber, welche Daten sowohl rein als auch raus gehen. Wenn man mehr Kontrolle haben möchte, nutzt man ein LLM für RAG samt Schnittstellen. Sei es für Recherche-Zwecke oder z.B. in Unternehmen für die eigenen Mitarbeiter.

Es gibt nicht "die KI", es sind viele. Das Problem, das du schilderst ist nur die Spitze vom Eisberg, denn

Viele KIs durchsuchen [...] das Web und [finden] eine „ideale“ Quelle

dadurch entsteht ein positiver Feedback-Loop, durch den neue Inhalte erzeugt werden, welche durch die Vorzüge der KI beeinflusst werden und somit erneut von KI bevorzugt werden.

Nach mehreren Iterationen wird deine Erfahrung zur unvermeidbaren Wahrheit. Diese Entwicklung macht selbst seriöse Quellen unseriös. Solange du der einzige Mensch bist, der KI auf diese Weise nutzt, ist das nur dein persönliches Pech - wenn es aber viele so tun wird es irgendwann keine Inhalte mehr geben, die nicht Teil des KI-Slop sind.

Eine KI kann gar nicht beurteilen, was ein seriöse oder was eine unseriöse Quelle ist.

Beides ist für die KI gleichwertig. Oder warum sollte sie den einen Text für seriöser halten als den anderen ?

Dazu gehört schon Intelligenz und nichts künstliches.

Ich nehme mal an du hast Copilot benutzt, denn nur die macht solchen Quatsch und speichert quasi deine ganzen Browserverläufe und was du überall gemacht hast und benutzt das dann in "personalisierten Antworten".

Daher nutze ich das auch nicht, ist mir nämlich auch schonmal passiert und ich fand das ziemlich besorgniserregend (gläserner Mensch und so). Wer weiss, was Microsoft mit den ganzen Daten anstellt und wo sie die hinverkaufen.

Natürlich überprüfe ich ansonsten immer alle Quellen, denn oft liefert K.I. völligen Bullshit. Bei einer Recherche über die Kamera mit der Audrey Hepburn bei "Breakfast at Tiffany's" fotografiert wurde, lieferte mir Gemini z.b. als Quelle einen Betrag, der über Cinemakameras war, also garnichts mit Fotografie zu tun hatte.