Viel Spaß beim Lesen!
US-Präsident Joe Biden hat eine Executive Order zu sicherer und vertrauenswürdiger KI erlassen.
Eine Executive Order ist eine Anweisung an die Beamten der staatlichen Exekutive, also z.B. in Regierung und öffentlicher Verwaltung.
Die darin festgelegten Regeln für Unternehmen gelten also für alle, die an Aufträgen von amerikanischen Bundesbehörden arbeiten wollen.
Ein Überblick über die Regeln:
Kurz bevor die Firma für ein paar Tage komplett im Chaos versunken ist, hat OpenAI den sogenannten DevDay veranstaltet, wo sie neue Entwicklungen präsentiert haben.
Hier geht es erstmal um die Neuigkeiten vom DevDay, in der nächsten Ausgabe versuche ich dann einen Überblick über das ganze Chaos zu geben.
Forscher von Microsoft haben diese Frage untersucht und eine Methode entwickelt, um Sprachmodelle "vergessen" zu lassen. Zur Prüfung der Methode haben sie versucht, das Wissen über Harry Potter aus einem open source Sprachmodell zu entfernen.
Die Methode besteht aus drei Schritten:
Zuerst wird ein Basismodell mit den Daten weitertrainiert, die man eigentlich aus dem Modell entfernen will.
Dadurch entsteht, was die Forscher ein "verstärktes Modell" nennen, weil seine Vorhersagen noch stärkeren Bezug zu den Daten haben.
Dieses Modell kann man dann mit dem Basismodell vergleichen, und so feststellen, welche Vorhersagen jetzt verstärkt vorkommen und somit wahrscheinlich zu den Daten gehören, die das Modell "vergessen" soll.
Im zweiten Schritt wird versucht, Trainingsdaten für den dritten Schritt zu sammeln.
Dabei geht es darum, für Texte, für die sonst eine Fortsetzung mit Bezug zu den Daten, die vergessen werden sollen, vorhergesagt würde, eine andere, unspezifische Fortsetzung zu finden.
Um diese alternativen Fortsetzungen zu finden, haben die Forscher zuerst GPT-4 benutzt, um Synonyme für Wörter und Sätze mit Harry Potter Bezug zu finden und durch unspezifische Alternativen zu ersetzen. Dann haben sie damit vom Basismodell unspezifische Fortsetzungen vorhersagen lassen.
Mit diesen unspezifischen Fortsetzungen haben sie dann das Basismodell weitertrainiert.
Das Ergebnis ist ein Modell, das Sätze, die einen Bezug zu Harry Potter haben, auf eine Art fortsetzt, die nichts mit Harry Potter zu tun hat - als hätte es vergessen wer das ist.
Predictive Policing funktioniert nicht
Predictive Policing ist die Idee, dass sich Kriminalität vorhersagen lassen könnte, so dass die Polizei schneller oder bereits im Voraus reagieren kann.
Dieser Ansatz wurde beispielsweise durch den Film Minority Report bekannt.
Eine Untersuchung der Daten eines Polizeireviers in New Jersey durch Journalist:innen von The Markup und Wired hat gezeigt, dass die Vorhersagen der Software in weniger als 1% der Fälle richtig waren.
Auch andere Polizeidienststellen in den USA haben die Software wieder abgeschafft, nachdem sie sich als nicht hilfreich erwiesen hat, zum Beispiel die Polizei von Los Angeles.
Der Hersteller der Software, Geolitica, wird das Geschäft zum Ende des Jahres einstellen und wird zum Großteil von SoundThinking übernommen: 📖 wired.com
SoundThinking ist vor allem für die Software ShotSpotter bekannt, die Städte mithilfe von Mikrofonen überwacht, um Schussgeräusche zu erkennen, und entsprechend an die Polizei zu melden.
Bei der ShotSpotter Software haben Journalist:innen in den letzten Jahren ebenfalls ähnliche Probleme mit sehr vielen Fehlalarmen gefunden: 📖 wyso.org
📖 Quelle: themarkup.org
KI und Copyright
Da Sprachmodelle manchmal Texte aus den Trainingsdaten wörtlich übernehmen, ergeben sich dadurch möglicherweise urheberrechtliche Probleme, wenn die Texte unter entsprechendem Schutz stehen.
Daher verklagt zum Beispiel die Universal Music Group jetzt das Startup Anthropic, das für den Chatbot Claude bekannt ist.
Denn Claude antwortet manchmal mit den Songtexten von bekannten Liedern, ohne eine entsprechende Lizenzvereinbarung mit Universal abgeschlossen zu haben.
📖 Quelle: theverge.com
Wie sich an der Klage zeigt, haben die Rechteinhaber und die KI-Unternehmen teilweise verschiedene Auffassungen, was erlaubt ist und was nicht.
Dieser Artikel von The Verge gibt einen Überblick über die Begründungen von verschiedenen KI-Unternehmen, warum sie der Meinung sind, dass sie keine Lizenzgebühren bezahlen müssen: 📖 theverge.com
"Der Fall von Babylon ist eine Warnung für alle KI-Einhörner"
Zugegeben, diese Nachricht habe ich nur deshalb mit aufgenommen, weil ich die Überschrift des Artikels so witzig fand.
Aber was bedeutet sie eigentlich?
Babylon Health war ein Startup, das 2013 in London gegründet wurde, mit dem Ziel eine App zu entwickeln, die mithilfe von KI Krankheiten diagnostizieren kann.
2021 ging Babylon Health mit einer Bewertung von 4,2 Milliarden Dollar an die Börse und hat im August 2023 Insolvenz angemeldet.
Als Einhörner werden Startups bezeichnet, die eine Bewertung von einer Milliarde Dollar oder mehr erreicht haben, bevor sie an die Börse gehen (de.wikipedia.org).
📖 Quelle: wired.com
KI für Windräder
Die Landesregierung von Baden-Württemberg hat 2021 eine Taskforce eingesetzt, um die langen Verfahren für Planung und Genehmigung von Windrädern zu verkürzen.
Eines der Ergebnisse scheint zu sein, dass es laut SWR aktuell eine Ausschreibung für eine KI-unterstützte Software gibt, die die Genehmigungsbehörden unterstützen soll.
Als ein möglicher Einsatzzweck wird genannt, dass die Software den Bearbeiter:innen "Hinweise zur Auslegung der Rechtslage" geben soll.
Hoffen wir, dass das besser funktioniert, als bei dem US-Anwalt, der sich in einem Gerichtsverfahren auf ChatGPT verlassen hat: apnews.com
📖 Quelle: swr.de
Humane AI Pin
Das Startup Humane hat den AI Pin vorgestellt, ein Wearable, das man sich zum Beispiel ans T-Shirt klemmen kann.
Durch Spracherkennung und weitere KI-Funktionen soll man so quasi sein Smartphone ersetzen können.
Der AI Pin hat, neben Mikrofon und Lautsprecher, zum Beispiel einen Laser eingebaut, der das Display ersetzen soll.
Der Laser projiziert Informationen einfach auf eine Fläche in der Nähe, zum Beispiel eine Hand.
Mithilfe einer 13 Megapixel Kamera kann das 4,5 x 4,8 cm große Gerät Fotos und Videos aufnehmen und eine Touch-Fläche hilft bei der Steuerung, wenn man mal keinen Sprachbefehl geben will.
Das Gerät ist vorerst nur in den USA erhältlich, soll ab März 2024 ausgeliefert werden und kostet je nach Variante $699 oder $799 + monatlich $24 (zzgl. Steuern und Gebühren) für einen Mobilfunkvertrag und Cloudspeicher.
📖 Technische Spezifikationen: hu.ma.ne
📖 Online Shop: hu.ma.ne