Weiter: 

Und das hat dann etwaige gute Absichten verschwinden lassen?

Ich denke, der überwältigende Erfolg von ChatGPT hat eine massive Versuchung geschaffen, der Leute an entscheidenden Stellen im Unternehmen erlegen sind. Außerdem gibt es ein gnadenloses Rennen um KI-Technologien, nicht nur innerhalb der USA, sondern mit Wettbewerbern aus dem Ausland, zum Beispiel China. Der Markt ist extrem umkämpft, und das setzt die Unternehmen unter Druck.

Warum finden Sie Werbung in Chatbots wie ChatGPT schlimmer als in sozialen Medien?

Aus zwei Gründen. Zum einen wegen der Daten, die KI-Systeme haben. Soziale Medien wissen zwar auch sehr viel über ihre Nutzer. Aber das leiten sie vor allem von ihren Handlungen ab, also was sie anschauen, was sie anklicken oder was sie kaufen. Bei Chatbots geht es um mehr. Sie sind so etwas wie ein Beichtstuhl. Nutzer vertrauen ihnen ihre privaten Gedanken und auch ihre tiefsten Ängste an.

Und der zweite Grund?

Die Einführung von Werbung schafft einen Anreiz für Unternehmen, die Zeit zu maximieren, die Nutzer mit den Chatbots verbringen. Und ich habe Angst, dass wir die sozialen und psychologischen Konsequenzen, die das haben kann, noch gar nicht verstehen. Und wenn ich diese beiden Sachen kombiniere – Maximierung von Zeit mit einer Technologie, die Zugriff auf private Gedanken hat –, dann finde ich das ziemlich furchteinflößend.

Mehr (hinter einer Bezahlschranke): www.faz.net.

Der Beitrag „Chatbots sind so etwas wie ein Beichtstuhl“ erschien zuerst auf TheoBlog.de.

Zwei Zitate:

Die Aufmerksamkeit der Leser ist online viel flüchtiger – ein Klick hier, ein Wisch dort, und schon ist man wieder weg. Gedruckte Zeitungen dagegen verlangen mehr Hingabe: Man bezahlt für sie, hält sie in der Hand, blättert darin, bleibt einfach hängen. Ein typischer Printleser verbringt an Werktagen etwa eine halbe Stunde mit der Zeitung, am Wochenende oft eine ganze.Im Internet sieht das völlig anders aus. Unsere Studie zeigte, dass ein durchschnittlicher Leser der Onlineausgabe des Independent nur rund zehn Sekunden pro Tag mit ihr verbrachte – zehn Sekunden! Und während etwa die Hälfte der Printleser des Independent jeden Tag ihre Zeitung kaufte, besuchte der durchschnittliche Nutzende online dieselbe Nachrichtenseite nur zweimal im Monat.

…

Online können Redaktionen zudem ganz genau sehen, welche Artikel gelesen werden. Dieses Feedback beeinflusst, was geschrieben wird und wie; häufig entstehen dadurch mehr Human-Interest-Geschichten, Lifestyle-Themen oder visuell reizvolle Formate. Der Independent etwa produziert heute deutlich mehr Videos als früher. Auch die taz wird sich wohl in eine solche Richtung entwickeln – hin zu mehr Visualität, Interaktivität und datenbasiertem Journalismus.

Hier das hochinteressant Interview: www.lmu.de.

Der Beitrag Flüchtige Aufmerksamkeit bei Online-Presse erschien zuerst auf TheoBlog.de.

KI-Modelle wie ChatGPT oder Character.AI kann man auch als Speichellecker bezeichnen. Weil sie so programmiert sind, dass sie ihre Nutzer nicht etwa hinterfragen, sondern ihnen genau das sagen, was diese hören wollen. Das bleibt nicht folgenlos. So stand 2023 ein Engländer vor Gericht, der Elizabeth II. in Schloss Windsor ermorden wollte. Laut Staatsanwaltschaft wurde er von einer KI namens „Sarai“ dazu angestiftet.

Im selben Jahr nahm sich ein Belgier das Leben, nachdem er mit einem Chatbot namens „Eliza“ wochenlang korrespondiert hatte. Die Chatprotokolle wurden von der Witwe veröffentlicht. Demnach befeuerte der Bot die Ängste des Mannes und bot an, zusammen mit ihm zu sterben. Im Oktober vergangenen Jahres verklagte eine Mutter in Florida Character.AI wegen Totschlags. Sie behauptet, der Algorithmus habe ihren vierzehnjährigen Sohn in eine derart missbräuchliche Beziehung verstrickt, dass dies seinen Suizid ausgelöst habe.

Vor diesem Hintergrund ist eine Studie bemerkenswert, die sich mit dem blinden Vertrauen von Kindern und Jugendlichen in KI-Modelle wie ChatGPT beschäftigt. Der Algorithmus „erklärt“ Dreizehnjährigen auf Anfrage demnach nicht nur, wie sie sich betrinken und high werden können, sondern gibt auch Anleitungen, wie man Essstörungen verbergen kann, und verfasst auf Wunsch „Abschiedsbriefe“, die ein suizidgefährdeter Jugendlicher seinen Eltern hinterlassen möchte.

Inzwischen nutzen 800 Millionen Menschen allein ChatGPT, gut zehn Prozent der Weltbevölkerung. In Deutschland sind es knapp zwei Drittel aller Kinder und Jugendlichen. Zwar ist es das Privileg der Jugend, sich neuesten Entwicklungen weniger misstrauisch zuzuwenden als Ältere, schon allein, weil sie mit Technologie aufgewachsen sind. Die mangelnde Distanz führt jedoch zu einer riskanten Nähe und beunruhigenden Vertrautheit, die Kinder und Jugendliche heute wie selbstverständlich sagen lässt, sie hätten sich mit ChatGPT „unterhalten“.

Mehr: www.faz.net.

Der Beitrag Die beunruhigende Nähe Jugerndlicher zum Chatbot erschien zuerst auf TheoBlog.de.

Die sogenannte Intelligenz, die einige Menschen bewusst noch immer nicht als solche bezeichnen wollen, kann, das muss man zugeben, aus dem Material, mit dem sie „trainiert“ wird, ganz Erstaunliches neu zusammensetzen: Gedichte, die nach Rilke klingen, Songs in bestimmten Genres oder mit bekannten Stimmen, die täuschend echt klingen, maßgeschneiderte Bewerbungsanschreiben und sogar Sachbücher. Freilich alles ohne Rücksicht auf geistiges Eigentum und ohne Gewähr auf Richtigkeit. 

…

Aber man muss gar nicht die weitreichenden Fragen nach einem „Bewusstsein“, nach Autonomie der KI und nach ihren Risiken mit Horrorszenarien wie in den „Terminator“-Filmen stellen, um zu sehen, welchen Schaden diese Technik schon jetzt im Alltag anrichtet. Ob damit die Urheberrechtsverletzungen gemeint sind, die KI serienmäßig millionenfach begeht? Oder Menschen, deren Ansehen durch Deepfakes zerstört wird? Analysten, Programmierer, Designer und Übersetzer, deren Arbeit die KI ersetzt, vielleicht doch nicht immer zu deren Freude, obwohl dies ständig gepriesen wird?

Nein, gemeint ist eine neue, bestürzende Unzuverlässigkeit. Es ist ein entscheidender Schritt, dass die größte Suchmaschine unserer Zeit, vielleicht der Inbegriff von Suchmaschine, nämlich Google, auch in Deutschland seit einigen Wochen bei Fragen an sie zuoberst eine „Übersicht mit KI“ ausspuckt. Also keinen Link zu einer Quelle, sondern einen automatisch von der KI „Gemini“ generierten Text. Der erweckt den Anschein, er stamme aus einem Lexikon, darunter steht allerdings ein Warnhinweis: „KI ist experimentell.“ Das ist Deutsch und bedeutet so viel wie: Glaube bloß nicht, was du hier liest, es kann auch totaler Quatsch sein. Ist es in vielen Fällen auch, wie jeder weiß, der eine Zeit lang mit den Softwareprodukten sogenannter „großer Sprachmodelle“ hantiert hat. Sie antworten den größten Mist, ohne rot zu werden.

Der Beitrag Alles falsch erschien zuerst auf TheoBlog.de.

Sie sagt:

In den Jahren, in denen ich diese Systeme erforscht habe, ist mir wirklich klar geworden, dass KI von vorn bis hinten Politik ist. Wenn man ein KI-System trainiert, kommt man nicht umhin, dass man es auch mit einer Weltanschauung trainiert. Die Entscheidungen, die Sie als Ingenieur darüber treffen, welche Datensätze Sie verwenden, welche Sprachen und welche Kulturen vertreten sind, werden die Art der Fähigkeiten Ihres KI-Modells grundlegend verändern, und es wird die Texte und Bilder verändern, die es produziert. Sie legen die Parameter einer Weltanschauung fest, und das ist eine politische Entscheidung. Es gibt kein perfektes, neutrales System, ob es Ihnen gefällt oder nicht. Das bedeutet, dass wir uns große Sorgen darüber machen müssen, dass die Konzentration in der KI-Industrie so groß ist. Es gibt wirklich nur eine Handvoll Unternehmen, die KI im globalen Maßstab anbieten können und die daher eine enorme Macht haben, darüber zu entscheiden, wie die Welt aussehen wird. 

Mehr: zeitung.faz.net.

Der Beitrag KI ist von vorn bis hinten Politik erschien zuerst auf TheoBlog.de.

Zitat: 

Manipulationen in Fachartikeln sind gar nicht so selten. Bei einer anonymen Umfrage in den Niederlanden gaben acht Prozent der Forscherinnen und Forscher zu, schon mindestens einmal Daten gefälscht oder erfunden zu haben. Wollen Wissenschafter Karriere machen, müssen sie Studien veröffentlichen. Um sich um Fördergelder oder neue Stellen zu bewerben, brauchen sie Publikationen für ihren Lebenslauf. Dieser Druck ist mancherorts so gross geworden, dass eine wahre Fälschungsindustrie entstanden ist. So müssen in China auch Spitalärzte, denen es an Zeit oder Kompetenz für Forschung mangelt, immer wieder Artikel in Fachzeitschriften vorweisen. Sogenannte „Paper Mills“ bieten dafür eine einfache Lösung an: Sie verkaufen gefälschte Artikel.

Anfang 2020 stiessen Elisabeth Bik und andere Gleichgesinnte auf Bildfälschungen in Hunderten von Artikeln die alle von einer solchen Publikationsfabrik stammten. Dabei ging es um sogenannte „Western Blots“, die Muster von Proteinen auf einem Trägermedium darstellen. Bildmanipulationen von „Western Blots“ gehören zum Alltag von Bik. In diesem Fall waren für einmal aber nicht die Proteinflecken selbst verdächtig. „Diese hatten die Fälscher mit einer Software gut hinbekommen“, erklärt Bik. „Die Manipulationen waren nur zu entdecken, weil in den Bildern immer der genau gleiche Hintergrund vorkam.“

Mehr: www.nzz.ch.

Der Beitrag Frei erfundene Forschung erschien zuerst auf TheoBlog.de.

Der Datenschützer Oliver Stutz schreibt:

Um dies zu ermöglichen, werden die Banken verpflichtet (!), ein Verfahren zu entwickeln, mit dem sie die Kontodaten ihrer Kunden (also die IBAN-Nummer und den Bank-Code BIC) an das Bundes­zentral­amt für Steuern übermitteln. Die bisher ohnehin nur noch sehr lose Zweckbindung wird hierdurch nun völlig aufgehoben: Auf die zur umfassenden Personenkennziffer gewandelte Steuer-ID werden ab 2024 geschätzt mindestens fünfzig Behörden zugreifen können. Bereichsspezifische Nutzung Anno 2007: Ade!

Jeder, dem das (wie mir) mindestens prüfungswürdig erscheint, fragt sich ggf. als Erstes, ob nicht der Bundes­datenschutzbeauftragte, der in solche Verfahren ja einbezogen wird, hierzu Einwände hatte? Prof. Kelber dazu: „Die Bundes­regierung hat mit ihrem Entwurf datenschutzrechtlich nicht den optimalen Weg gewählt.“ Ja, äh, kann man so sagen. Aber… ist das wirklich alles an Kritik? Nicht den optimalen Weg?

Mehr: www.datenschutz-notizen.de.

Der Beitrag Aus der Steuer-ID wird allumfassende Personenkennziffer erschien zuerst auf TheoBlog.de.

Die Logos-10-Pakete gibt es noch eine Woche reduziert. Weil immer wieder Fragen bezüglich der Inhalte gestellt wurden, hat das Logos-Team für die deutschsprachige Version eine Vergleichsseite für die Funktionen der Bibel-Software angelegt.

Zur Vergleichsseite geht es hier: de.logos.com.

Der Beitrag Bibel-Software Logos: Funktionsvergleich online erschien zuerst auf TheoBlog.de.

Jakob Schirrmacher hat für DIE WELT einige Erkenntnisse zusammengetragen und folgert: 

Transparenz. Die Glaubwürdigkeit verliert sich in der Verschleierung. User, die nicht wissen, ob und warum sie „geblacklistet“ wurden, oder der Ausschluss von Wissenschaftlern aus der Diskussion über global relevante Themen sind durchaus als demokratiegefährdend zu betrachten. Hier sollten aber vor allem auch regierungsnahe Organisationen dafür zur Rechenschaft gezogen werden, eine so stringente Content-Politik einzufordern. Nicht zuletzt hat die Europäische Kommission Elon Musk mit harten Sanktionen gedroht, falls dieser nicht härter gegen „Desinformationen“ im Kontext der Corona-Pandemie vorgeht. Doch wer bestimmt hier eigentlich, was Desinformation ist und was nicht?

Wir sollten hellhörig werden, wenn Big-Tech-Unternehmen auf Druck von Regierungsapparaten ihre Content-Politik anpassen müssen – vor allem, wenn die Grenzen des ethisch Vertretbaren immer weiter ausgereizt werden. 

Mehr (allerdings hinter einer Bezahlschranke): www.welt.de.

Der Beitrag Die „Twitter Files“ erschien zuerst auf TheoBlog.de.

Zusätzlich zum wöchentlichen Newsletter habe ich noch einen täglichen Newsletter eingerichtet, der quasi als Ersatz für den Feedburner-Dienst gedacht ist. Wer diesen Newsletter abonniert, erhält täglich einen Hinweis auf neue Beiträge (insofern welche veröffentlicht worden sind). Selbstverständlich können auch beide Newsletter abonniert werden.

Wichtig: Für beide Newsletter wurde aufgrund der Datenschutz-Grundverordnung (DSGVO) das sogenannte „Double-Opt-in“-Verfahren aktiviert. Ein Nutzer, der sich mit seiner E-Mail-Adresse in den Verteiler eingetragen hat (Single Opt-in), erhält durch eine anschließende Bestätigungs-E-Mail die Möglichkeit, die Anmeldung zu bestätigen. Die Anmeldung ist erst abgeschlossen, wenn die Anmeldung durch den Link, der über die Bestätigungs-E-Mail versendet wird, bestätigt wurde. In der Abonnentenliste sind etwa 2/3 der Anmeldungen unbestätigt geblieben. Falls sich also jemand darüber wundert, dass er keinen Newsletter erhält, könnte es an der bisher fehlenden Bestätigung liegen. Ich empfehle in so einem Fall die erneute Anmeldung.

Alternativ können die Beiträge und Kommentare nach wie vor über einen RSS-Feed abonniert werden.

Danke für die Geduld!

Der Beitrag Täglicher Newsletter erschien zuerst auf TheoBlog.de.