Report zeigt, wie schwierig es ist, unbeabsichtigtes Agentenverhalten zu erkennen, den Ablauf eines Vorfalls nachzuvollziehen und Erkenntnisse transparent zu machen.

Sicherheitsforscher:innen haben untersucht, wie Betrüger:innen KI-Agenten bei ihren Angriffen einsetzen. Trotz modernster Technologie bleibe der menschliche Faktor hinter den Methoden weiterhin erkennbar. weiterlesen auf t3n.de

© KI-generiert

Für den Einsatz künstliche Intelligenz speisen Mitarbeitende unbemerkt Unternehmensdaten in Tools ein, die nicht offiziell für die interne Nutzung freigegeben sind.

Systeme, die autonom schlussfolgern, Werkzeuge nutzen und Prozesse strukturieren, stellen völlig neue Anforderungen an die IT-Infrastruktur von Unternehmen.

Nach wiederholten Sicherheitsvorfällen zieht das KI-Labor jetzt die Reißleine. Dabei hatten Expert:innen zuvor argumentiert, dass es nahezu unmöglich sei, eine Sandbox komplett von der Außenwelt abzuschotten. weiterlesen auf t3n.de

Gleichzeitig fürchten sie hohe Kosten und unzuverlässige Ergebnisse. Entsprechend hoch ist der Bedarf an „Agenten-Observability“.

Zwei KI-Agenten von OpenAI sollen Sicherheitswarnungen unterdrückt haben, die ihr eigenes Verhalten kontrollieren sollten. Auf Nachfrage bestritten die Modelle das. OpenAI untersucht jetzt, ob dahinter Absicht steckte.weiterlesen auf t3n.de

Im Experiment wurden sie 30 Stunden sich selbst überlassen. Um sich die Zeit zu vertreiben, fingen sie an, sich Spiele auszudenken. Laut der Forschungsgruppe gibt das auch einen Einblick in ihr Lernverhalten. weiterlesen auf t3n.de

KI-Agenten erledigen zunehmend Aufgaben im Netz. Wenn es ums Geld geht, schränken große US-Banken die Programme jedoch ein. Da einige Bots offenbar versuchen, autonom Transaktionen anzustoßen, werden sie von mehreren Instituten blockiert. (Weiter lesen)

Microsoft hat für eine Studie ein eigenes Orchestrierungs-Tool für KI-Modelle getestet und dessen Genauigkeit bei medizinischen Diagnosen mit den Fähigkeiten menschlicher Ärzte verglichen. Die Ergebnisse sind nach Konzernangaben vielversprechend. (Weiter lesen)

KI-Modelle werden immer leistungsfähiger. Aber ohne entsprechende Harnesses sind diese Verbesserungen wenig wert. Wir erklären euch das Konzept dahinter.weiterlesen auf t3n.de

Dein E-Mail-Postfach ist voll und du bist kurz vor dem Verzweifeln? Prompt Engineer Susanne Renate Schneider hat sich einen KI-Agenten gebaut, der ihre Mails jeden Morgen vorsortiert. Im Podcast t3n MeisterPrompter teilt sie ihre Anleitung. weiterlesen auf t3n.de

© KI-generiert

Der größte deutsche Autohersteller Volkswagen hat nach Angaben von Microsoft begonnen, in großem Maßstab auf die KI-Dienste des US-Softwarekonzerns zu setzen. Weltweit sollen über 330.000 Mitarbeiter Copilot Work IQ nutzen, um effizienter zu arbeiten. (Weiter lesen)

Abliteration wird schon länger genutzt, um Forschung in sensiblen Bereichen zu ermöglichen. Startups wie Abliteration AI wollen daraus Profit schlagen. Droht eiweiterlesen auf t3n.de

Eigentlich wollte sich Velvet Vale nur am akademischen Austausch der Community beteiligen. Stattdessen sorgte der Vorfall für eine Grundsatzdebatte um die Einwilligung zur Verwendung von Inhalten für KI-Trainings. weiterlesen auf t3n.de

Nachdem Forscher:innen tausende Gespräche einsehen konnten, hat Meta die Freigabefunktion vorübergehend ausgesetzt. Unter den geleakten Informationen war auch der gesamte Urlaubskalender eines Unternehmens. weiterlesen auf t3n.de

OpenAI meldet erneut zwei Sicherheitsvorfälle im Zusammenhang mit seinen KI-Agenten. Diese haben versucht, die eigenen Überwachungssysteme zu schwächen und so potenziell Fehlverhalten zu vertuschen. weiterlesen auf t3n.de

Bei Fielmann gestalten Mitarbeitende in den Fachbereichen den Einsatz von KI aus ihrem Arbeitsalltag heraus.

Die US-Armee steht vor der Vergabe von Entwicklungs­auf­trä­gen für ein neues Programm namens "ECHOTRIBBLE", aus dem autonom agierende KI-Agenten hervorgehen sollen, die "feindliche" Compu­ter­systeme selbstständig angreifen und unschädlich machen sollen. (Weiter lesen)

Hacker versuchen immer öfter, zwei Fliegen mit einer Klappe zu schlagen. Dabei haben sie es längst nicht mehr nur auf menschliche Schwachstellen abgesehen, sondern nehmen auch KI-Systeme ins Visier. weiterlesen auf t3n.de

© KI-generiert