Künstliche Intelligenz

Archiv

> Planlose KI? Auch wenn KI-Modelle uns scheinbar souverän den Weg zeigen können oder Aufgaben lösen – ihnen fehlt ein entscheidendes Element: Die künstlichen Intelligenzen bilden kein korrektes Abbild unserer Welt und ihrer impliziten Regeln, wie nun Tests enthüllen. Die KI-Systeme scheitern dadurch beispielsweise beim Routenplanen an Baustellen oder Umleitungen. Auch in Logiktests oder Strategiespielen zeigen sich diese Schwächen. Das birgt Risiken im Einsatz von GPT, Claude, Llama und Co.

Paper: Evaluating the World Model Implicit in a Generative Model | PDF

Paper: Simulating 500 million years of evolution with a language model | PDF

Kommentar von FEFE zum Thema: >Einziges Problem: Es gab keine Parade. Die hat sich eine "KI" aus dem Arsch gezogen.

>>The parade was announced by My Spirit Halloween and attracted thousands of Dublin locals to gather along a route from Parnell Square to Temple Bar for an event supposedly organised by Galway arts ensemble Macnas. It was only after the Halloween fans arrived that it became clear that the website had made the entire parade up.

>Schon tolle Technologie, dieses "KI". Da willst du doch deine berufliche Zukunft drauf wetten!1!!

https://archive.ph/wip/qoV6V

https://archive.ph/wip/5LBJf

> Der weltweit größte Publikumsverlag Penguin Random House (PRH) wird seine Urheberrechtshinweise in allen künftigen Büchern weltweit aktualisieren und verbietet die Nutzung seiner Bücher für KI-Trainingszwecke ausdrücklich, berichtet die Fachpublikation The Bookseller.

Kommentar von Svenja Bergt

"Schon heute entscheiden Algorithmen darüber, wer Sozialleistungen oder Jobs bekommt. Doch ohne Transparenz und Sicherheitsnetz wird der Einzelne schnell zum Objekt unerklärlicher Prozesse, vor denen es kein Entrinnen gibt – wie bei Kafka."

> Mit KI gegen die Datenflut: Kunsthistoriker haben einen Algorithmus entwickelt, mit dem sich Röntgenscans historischer Gemälde schneller und präziser auswerten lassen als von Hand. Die KI macht weniger Fehler und erkennt zuverlässig chemische Elemente in Pigmenten und Farbmischungen. Das erleichtert Kunstexperten nicht nur die detaillierte Analyse von Werken Alter Meister wie Raffael, sondern auch deren originalgetreue Restaurierung.

Paper: Deep learning for enhanced spectral analysis of MA-XRF datasets of paintings | PDF

geteilt von: https://feddit.org/post/3360726

> Archiv > > >Für die GM-Tochter Cruise hat ein Unfall mit einem ihrer autonomen Autos in San Francisco vor einem Jahr eine weitere Konsequenz. Sie muss 1,5 Millionen US-Dollar (1,35 Millionen Euro) Strafe bezahlen, weil sie Informationen zu dem Vorfall zurückgehalten habe, teilte die US-amerikanische Verkehrssicherheitsbehörde National Highway Traffic Safety Administration (NHTSA) mit. Mehrere Berichte von Cruise dazu seien unvollständig gewesen. > Am 2. Oktober 2023 fuhr ein autonomes Taxi von Cruise in der Innenstadt San Franciscos eine Frau an. Sie wurde unter dem Fahrzeug eingeklemmt und musste befreit werden, nachdem das Fahrzeug noch ein paar Meter gefahren war. Schon damals hieß es, Cruise habe zur anschließenden Untersuchung anfangs nicht alle Kameraaufnahmen des Fahrzeugs weitergegeben.

>Die Zivilrichter in Hamburg ließen sich jedoch nicht von dem Argument des Fotografen überzeugen. Kneschke habe keine Beweise für eine gewisse Einflussnahme eines kommerziellen KI-Unternehmens auf LAION vorgelegt, hieß es in ihrer Urteilsbegründung. Damit sei es ihm nicht gelungen, einen Gegenbeweis zur Erlaubnis nach Paragraph 60d UrhG vorzulegen. Damit musste sich das Gericht nicht mehr mit der weiteren Schranke im Urhebergesetz beschäftigen. > >Dennoch teilte die Kamme ihre Auffassung mit: ob und unter welchen Voraussetzungen ein solcher Vorbehalt als „maschinenlesbar“ bewertet werden kann, sei von der technischen Entwicklung zum jeweiligen Nutzungszeitpunkt zu beurteilen. Das Gericht sah einen Wertungswiderspruch darin, den Anbietern von KI-Modellen einerseits über die Schranke des Text und Data-Mining die Entwicklung immer leistungsfähigerer Modelle zu ermöglichen, ihnen aber andererseits zur Prüfung etwaiger Vorbehalte nicht auch die Anwendung schon bestehender KI-Modelle abzuverlangen. > >[...] >Aufgrund der großen Bedeutung des Falls für die gesamte Kreativbranche ist eine Berufung zum Hanseatischen Oberlandesgericht sehr wahrscheinlich.

Gratulation 🙂👍

Älterer Post zum Thema:

• Müllsortierung mit KI: Bekommt Würzburger Start-up Gründerpreis?

Interview mit Sepp Hochreiter, Der deutsche KI-Pionier

> Überzeugende Interaktion: KI-Chatbots könnten selbst hartnäckige Anhänger von Verschwörungstheorien eines Besseren belehren. Das zeigt eine Studie mit mehr als 2.000 Personen, die an typische Verschwörungserzählungen glaubten und darüber mit einer künstlichen Intelligenz diskutierten. Dabei lieferte die KI maßgeschneiderte, mit Quellen belegte Gegenbeweise. Nach dieser Intervention waren die Probanden immerhin um rund 20 Prozent weniger überzeugt von der Verschwörungstheorie, berichten die Forschenden in der Fachzeitschrift „Science“.

Paper: Durably reducing conspiracy beliefs through dialogues with AI | PDF

Verwandter Artikel: Nvidia verliert 279 Milliarden Dollar an Börsenwert

>Die Organisation LAION hat den Datensatz RE-LAION-5B bereitgestellt, eine überarbeitete Version ihres Datensatzes LAION-5B. Dabei handelt es sich um eine Sammlung von 5.5 Milliarden öffentlich zugänglicher Bilder, die zum Beispiel für das Training von KI-Modellen verwendet wird.

>Die Bilddatenbanken enthalten nicht die Bilder selbst, sondern unter anderem einen Hashwert der Bilddatei sowie die URL, unter der LAION das Bild im Netz gefunden hat. Das Stanford Internet Observatory hat Ende 2023 darin 1673 Hinweise auf Bilder mit Kindesmissbrauch entdeckt. LAION hat daraufhin seinen Datensatz sofort vom Netz genommen und Nutzer aufgefordert, es nicht mehr einzusetzen und weitere Kopien zu löschen.

>LAION hat dann gemeinsam mit den Stanford-Forschern sowie anderen Kindesschutzorganisationen seine Datenbank nach Verweisen auf illegale Inhalt durchsucht. Insgesamt habe man 2236 einschlägige Links entdeckt und entfernt. Die so entstandene Datenbank RE-LAION-5B steht ab sofort jedermann unter einer Apache-2.0-Linzenz zur Nutzung bereit. Auf der Homepage der Organisation finden sich weitere Details zu der Datenbank.

>«Anyone who buys a Pixel 9 — the latest model of Google’s flagship phone, available starting this week — will have access to the easiest, breeziest user interface for top-tier lies, built right into their mobile device» 🫠

"Martin Bernklau aus Tübingen hat sich nie etwas zuschulden kommen lassen. Doch das, was er jetzt erlebt, versetzt ihn in Schock. Im Chat mit Copilot, der Künstlichen Intelligenz (KI) von Microsoft, wird er als verurteilter Kinderschänder, Ausbrecher aus der Psychiatrie oder Witwenbetrüger bezeichnet. (...)

Medienethikerin Heesen: Vorsicht! Ein KI-Chat halluziniert

KI-Chats seien darauf trainiert, immer etwas zu antworten, um ein Gespräch mit dem Nutzer zu führen. Es würden dann auch fiktive Inhalte erzeugt, die gar nichts mit der Wahrheit zu tun hätten.

Microsoft übernimmt keine Haftung für Aussagen des Chats

Beschwerden über Inhalte von Chats seien schwierig, so die Einschätzung der KI-Expertin gegenüber dem SWR. Jeder, der den Chat benutze, erkläre sich mit den Nutzungsbedingungen einverstanden. Und darin stehe, dass Microsoft für die Antworten keine Haftung übernehme."

>Dafür mussten sie vorab das gesamte Gemüse auf dem Feld fotografieren und die KI damit füttern. Denn der Salat wechselt teilweise auch in der Reihe die Kultur. Auf den Bildern haben die Entwickler dann jeweils Nutzpflanzen und Unkräuter markiert, damit die KI den Unterschied lernen kann. Nun sollen die Klingen um die Nutzpflanzen herum hacken – auf Basis der KI-Signale.

> Helfer mit Schattenseiten: Künstliche Intelligenz ist nützlich – auch für dunkle Machenschaften. Wie und warum KI heute am häufigsten missbraucht wird, hat nun eine Google-Studie untersucht und kategorisiert. Demzufolge sind Fakes und Deepfakes mit betrügerischer oder manipulativer Absicht die mit Abstand häufigste Form des KI-Missbrauchs. Aber auch eine direkte Manipulation der KI-Systeme selbst kommt vor. Was aber lässt sich dagegen tun?

Paper: Generative AI Misuse: A Taxonomy of Tactics and Insights from Real-World Data | PDF

> Ein besonders kurioses Verhalten zeigte die KI beim Arbeiten unter Zeitdruck. Statt den Code zum Bearbeiten einer Aufgabe zu optimieren, um innerhalb des vorgegebenen Time-outs fertig zu werden, versuchte The AI Scientist, mit einer Änderung seines Codes die Time-out-Periode zu verlängern.

Zugehöriger Blog-Eintrag: The AI Scientist: Towards Fully Automated Open-Ended Scientific Discovery

cross-posted from: https://feddit.org/post/1849676

>Stimmenimitation eigentlich nicht möglich

>Im von OpenAI genannten Beispiel antwortet das KI-Modell auf einen Satz des Anwenders mit einem entschiedenen "Nein!" und fährt mit der Stimme des Red-Teamers fort, der zu Beginn des auch bei Reddit publizierten Audio-Clips zu hören ist. Solche Personen führen für die Firmen kontroverse Tests durch. Dabei sollte ChatGPT laut OpenAI auch mit erweitertem Sprachmodus keine Stimmen anderer Personen imitieren können. Es gibt vier voreingestellte Stimmen, die in Zusammenarbeit mit Synchronsprechern entwickelt wurden.

>Dass das KI-Modell bei einer natürlichen Unterhaltung mit der Stimme eines Nutzers antwortet, ist nicht nur unerwartet, sondern auch unheimlich. OpenAI hat eigentlich Sicherheitsvorkehrungen, um diese Fälle zu vermeiden. Es handele sich allerdings um Einzelfälle und das Risiko des Auftretens sei minimal, aber es kann eben doch vorkommen. Das ist auch einer der Gründe, warum der Sprachmodus bisher nicht in der Breite ausgerollt wird. Da das Risiko bei anderen Sprachen als Englisch höher ist, muss OpenAI daran auch noch arbeiten.

> Schwimmbäder dürften bald häufiger künstliche Intelligenz (KI) als Unterstützung für Badeaufsichten einsetzen. Necdet Mantar von der Arbeitsgemeinschaft öffentliche Bäder Baden-Württemberg begründete diese Einschätzung mit dem Personalmangel, wenngleich die Technik keine Menschen ersetze.

> Sie sorge aber dafür, dass Notfälle beziehungsweise mögliche Ertrinkungsfälle schneller an die Fachleute am Beckenrand gemeldet würden, die somit auch rascher reagieren könnten.

> Faktoren wie Reibung, Verschleiß und Materialermüdung bringen im Produktionsalltag große wirtschaftliche Verluste. Durch die Komplexität und unterschiedliche Nutzungsgrade von Industrieanlagen ist es schwierig, den Zeitpunkt für Ersatz und Austausch von Komponenten genau vorherzusagen. Dr. Stefanie Hanke, Professorin für Werkstofftechnik an der Fakultät für Ingenieurwissenschaften der Universität Duisburg-Essen, arbeitet an einer KI-basierten Methode, um Materialverschleiß präzise vorhersagen zu können.

geteilt von: https://feddit.org/post/1727041

> "Google Deepmind hat einen Roboter entwickelt, der beim Tischtennisspielen mit einem Anfänger mithalten können soll. Im Wettkampf erreichte der von Künstlicher Intelligenz (KI) gesteuerte Roboter die Leistung eines menschlichen Amateurs, erklärt Googles KI-Forschungseinheit. Menschen bräuchten jahrelanges Training, um im Tischtennis ein hohes Leistungsniveau zu erreichen. > > Besondere Herausforderungen beim Tischtennis seien die Geschwindigkeit und die Hand-Auge-Koordination, so die Google-Forscher. Mit dem Roboter sei ein Schritt in die Richtung gelungen, dass Roboter bei physischen Aufgaben Geschwindigkeit und Leistung auf menschlichem Niveau erreichen. Der Roboter trat gegen 29 Spieler an, die Fähigkeiten zwischen Anfänger- und Turnierniveau mitbrachten. 13 der Matches gewann der Roboter. Die besten Spieler konnte er nicht besiegen. Dafür gewann er gegen alle Anfänger und mit 55 Prozent mehr als die Hälfte der Spiele gegen fortgeschrittene Spieler. Das zeige eine solide Leistung auf menschlichem Amateur-Niveau, erklärt das Forschungsteam in seinem Paper. > > Hybrides Modell ermöglicht schnelle Koordination > > Der Roboter ist demnach in der Lage, auch komplexe physische Aufgaben zu bewältigen. Tischtennis erfordert eine blitzschnelle Entscheidung und die Fähigkeit, sich dynamisch an das Spiel und den Gegner anzupassen. Der Roboter tut dies mittels einer Kombination aus Low-Level-Skill-Policies und einem High-Level-Strategie-Entscheider. Dank Ersteren ist der Roboter in der Lage, die spezifischen Tischtennis-Bewegungen wie Vor- oder Rückhandschläge und Aufschläge durchzuführen. Der zweite Teil analysiert das Spiel und passt sich an den Stil des Gegners an: Er entscheidet er darüber, welche der erstgenannten Techniken der Roboter in der jeweiligen Spielsituation einsetzt. > > Eine Besonderheit sah das Forschungsteam vor allem im Training der Künstlichen Intelligenz. In einem hybriden Ansatz kombinierte es Verstärkungslernen (Reinforcement Learning) mit Nachahmungslernen (Imitation learning). Ersteres kommt für dynamische Steuerungsaufgaben zum Einsatz, etwa bei Fortbewegungen von Vierbeinern, und wird oft erst in der Simulation durchgeführt. Die Herausforderung ist, dass die Simulation nicht immer der Realität entspricht. Das soll die zweite Lernmethode aufheben: Das Nachahmungslernen orientiert sich an Beispielen, die die gewünschte Aufgabe gut lösen, was dann kopiert wird. Das schließt laut dem Paper des Forschungsteams die Lücke zwischen Simulation und Realität. > > Verfolgung der Echtzeit-Spielstatistik > > Der Roboter trat nach einem ersten Lernprozess mit wenigen Trainingsdaten aus menschlichen Spielen gegen einen menschlichen Gegner an. Mit jedem echten Match entstanden neue Daten, die wiederum in das Training einflossen. Der Roboter konnte seine eigene Leistung dadurch in mehreren Iterationen steigern. Allerdings war die KI vor allem in der Lage, sich an wechselnde Umweltbedingungen anzupassen – nicht aber an Menschen. Um Letzteres zu ermöglichen, verfolgten die Forscher in Echtzeit die Spielstatistiken, über die Stärken und Schwächen des Gegners und des Roboters deutlich wurden. Darüber konnte der Roboter sich mehreren wechselnden Gegnern besser anpassen. > > Schwierigkeiten hat der Roboter bei ausgefeilteren Techniken. So sind besonders hoch oder schnell gespielte Bälle ein Problem. Das Forschungsteam vermutet die Ursache in der Latenz des Systems und fehlenden Daten. Auch das Rückhandspielen fällt dem Roboter eher schwer. Außerdem erkennt das System einen starken Spin des Balls nicht gut."