Stell dir vor, du könntest herausfinden, wie sicher Computerprogramme wirklich sind. Forschende haben eine neue Methode entwickelt, um das zu tun.
Hast du schon mal von künstlichen Gehirnen gehört? Das sind Computerprogramme, die so arbeiten wie unser Gehirn. Sie können lernen, Bilder erkennen und sogar Spiele spielen. Diese Programme heißen Deep Neural Networks, kurz DNNs. Forschende haben sich gefragt, wie sicher diese künstlichen Gehirne wirklich sind.
Was die Forschenden herausgefunden haben
Die Forschenden haben herausgefunden, dass es nicht nur zwei Zustände gibt: sicher oder unsicher. Stattdessen gibt es verschiedene Sicherheitsstufen. Das bedeutet, dass ein Programm nicht nur sicher oder unsicher ist, sondern verschiedene Sicherheitsstufen haben kann. Zum Beispiel könnte ein Programm in manchen Situationen sicher sein, in anderen aber nicht. Diese neue Methode hilft, diese verschiedenen Sicherheitsstufen besser zu verstehen.
Wie haben sie das gemacht?
Um das herauszufinden, haben die Forschenden eine neue Methode entwickelt, die sie Abstract DNN-Verification nennen. Diese Methode nutzt eine Technik namens abstrakte Interpretation. Stell dir vor, du hast ein großes Puzzle. Anstatt jedes Teil einzeln zu betrachten, schaust du dir Gruppen von Teilen an. So kannst du schneller erkennen, ob das Puzzle richtig zusammenpasst. Genauso funktioniert diese Methode. Sie schaut sich Gruppen von möglichen Ergebnissen an, um zu sehen, wie sicher das Programm ist.
Warum ist das wichtig?
Diese neue Methode ist wichtig, weil sie hilft, Computerprogramme sicherer zu machen. Stell dir vor, du spielst ein Computerspiel und das Programm macht plötzlich etwas, das du nicht erwartet hast. Das könnte gefährlich sein, besonders wenn das Programm in einem Auto oder einem Krankenhaus verwendet wird. Mit dieser neuen Methode können die Forschenden sicherstellen, dass solche Programme sicherer sind und weniger Fehler machen.
Du willst mehr über die Studie wissen?
Die Forschenden, die diese Entdeckung gemacht haben, heißen Luca Marzari, Isabella Mastroeni und Alessandro Farinelli. Ihre Arbeit wurde im Jahr 2025 veröffentlicht.