Nach wiederholten Sicherheitsvorfällen zieht das KI-Labor jetzt die Reißleine. Dabei hatten Expert:innen zuvor argumentiert, dass es nahezu unmöglich sei, eine Sandbox komplett von der Außenwelt abzuschotten. weiterlesen auf t3n.de

Gleichzeitig fürchten sie hohe Kosten und unzuverlässige Ergebnisse. Entsprechend hoch ist der Bedarf an „Agenten-Observability“.

Zwei KI-Agenten von OpenAI sollen Sicherheitswarnungen unterdrückt haben, die ihr eigenes Verhalten kontrollieren sollten. Auf Nachfrage bestritten die Modelle das. OpenAI untersucht jetzt, ob dahinter Absicht steckte.weiterlesen auf t3n.de

Im Experiment wurden sie 30 Stunden sich selbst überlassen. Um sich die Zeit zu vertreiben, fingen sie an, sich Spiele auszudenken. Laut der Forschungsgruppe gibt das auch einen Einblick in ihr Lernverhalten. weiterlesen auf t3n.de

KI-Agenten erledigen zunehmend Aufgaben im Netz. Wenn es ums Geld geht, schränken große US-Banken die Programme jedoch ein. Da einige Bots offenbar versuchen, autonom Transaktionen anzustoßen, werden sie von mehreren Instituten blockiert. (Weiter lesen)

Microsoft hat für eine Studie ein eigenes Orchestrierungs-Tool für KI-Modelle getestet und dessen Genauigkeit bei medizinischen Diagnosen mit den Fähigkeiten menschlicher Ärzte verglichen. Die Ergebnisse sind nach Konzernangaben vielversprechend. (Weiter lesen)

KI-Modelle werden immer leistungsfähiger. Aber ohne entsprechende Harnesses sind diese Verbesserungen wenig wert. Wir erklären euch das Konzept dahinter.weiterlesen auf t3n.de

Dein E-Mail-Postfach ist voll und du bist kurz vor dem Verzweifeln? Prompt Engineer Susanne Renate Schneider hat sich einen KI-Agenten gebaut, der ihre Mails jeden Morgen vorsortiert. Im Podcast t3n MeisterPrompter teilt sie ihre Anleitung. weiterlesen auf t3n.de

© KI-generiert

Der größte deutsche Autohersteller Volkswagen hat nach Angaben von Microsoft begonnen, in großem Maßstab auf die KI-Dienste des US-Softwarekonzerns zu setzen. Weltweit sollen über 330.000 Mitarbeiter Copilot Work IQ nutzen, um effizienter zu arbeiten. (Weiter lesen)

Abliteration wird schon länger genutzt, um Forschung in sensiblen Bereichen zu ermöglichen. Startups wie Abliteration AI wollen daraus Profit schlagen. Droht eiweiterlesen auf t3n.de

Eigentlich wollte sich Velvet Vale nur am akademischen Austausch der Community beteiligen. Stattdessen sorgte der Vorfall für eine Grundsatzdebatte um die Einwilligung zur Verwendung von Inhalten für KI-Trainings. weiterlesen auf t3n.de

Nachdem Forscher:innen tausende Gespräche einsehen konnten, hat Meta die Freigabefunktion vorübergehend ausgesetzt. Unter den geleakten Informationen war auch der gesamte Urlaubskalender eines Unternehmens. weiterlesen auf t3n.de

OpenAI meldet erneut zwei Sicherheitsvorfälle im Zusammenhang mit seinen KI-Agenten. Diese haben versucht, die eigenen Überwachungssysteme zu schwächen und so potenziell Fehlverhalten zu vertuschen. weiterlesen auf t3n.de

Bei Fielmann gestalten Mitarbeitende in den Fachbereichen den Einsatz von KI aus ihrem Arbeitsalltag heraus.

Die US-Armee steht vor der Vergabe von Entwicklungs­auf­trä­gen für ein neues Programm namens "ECHOTRIBBLE", aus dem autonom agierende KI-Agenten hervorgehen sollen, die "feindliche" Compu­ter­systeme selbstständig angreifen und unschädlich machen sollen. (Weiter lesen)

Hacker versuchen immer öfter, zwei Fliegen mit einer Klappe zu schlagen. Dabei haben sie es längst nicht mehr nur auf menschliche Schwachstellen abgesehen, sondern nehmen auch KI-Systeme ins Visier. weiterlesen auf t3n.de

© KI-generiert

Microsoft warnt vor autonomen KI-Agenten in Unternehmensnetz­werken, da diese unberechenbar agieren und zu einer Gefahr werden können. Zur besseren Kontrolle führt der Konzern nun spezielle Guardian Agents als digitale Echtzeit-Aufpasser ein. (Weiter lesen)

Ein Coder hat ein ungewöhnliches Projekt ins Leben gerufen. Er hat eine Programmiersprache entworfen, die von KI-Modellen nur sehr schwer nachvollzogen werden kann. Was er damit erreichen will. weiterlesen auf t3n.de

© KI-generiert

Was passiert, wenn abtrünnige KI-Agenten im Netz entdeckt und zum Gespräch eingeladen werden? Das haben Wissenschaftler:innen jetzt bei chinesischen Modellen herausgefunden. Was ihnen die KI-Gesprächspartner verraten haben. weiterlesen auf t3n.de

© KI-generiert

Das deutsche Startup Shop Agentic will einen Großteil der täglichen Arbeit im Onlinehandel von KI-Agenten erledigen lassen. Dahinter stehen vier langjährig erfoweiterlesen auf t3n.de