Die Weiterentwicklung von Technik - insbesondere verbunden mit Künstlicher Intelligenz - ermöglicht große Fortschritte in Biologie und Medizin. Doch gleichzeitig birgt sie Risiken, gegen die es sich zu wappnen gilt - etwa in der Biotechnologie: So gibt es in den USA zahlreiche Labore, bei denen man genetische Codes mit den Bauplänen für Proteine in Auftrag geben kann.
Schon seit längerem prüfen diese Labore mit spezieller Biosicherheits-Screening-Software (BSS), ob die nachgefragten Sequenzen zu einem gefährlichen Protein führen könnten, das etwa als Biowaffe verwendet werden könnte. Das funktioniert bei Codes für bekannte Giftstoffe gut. Allerdings ist es mit KI möglich, abgeleitete Codes zu erstellen, denen nicht sofort anzusehen ist, dass man daraus gefährliche Proteine fertigen kann.
Das haben US-Forscher nun an BSS-Software getestet - und dann nachgebessert. In der Fachzeitschrift "Science" berichtet die Gruppe um Eric Horvitz, wissenschaftlicher Leiter beim Softwarekonzern Microsoft in Redmond (US-Bundesstaat Washington), von den Ergebnissen der Prüfung und auch über Verbesserungen durch Software-Updates.
Forschende entwickeln Updates
Horvitz und Kollegen nutzten zunächst eine freie Open-Source-Software, die es mit KI-Unterstützung ermöglicht, Codes für neue Proteine zu erstellen. Sie gingen von 72 bedenklichen Proteinen aus, überwiegend Toxine. Teils stammten die Proteine auch von Viren. Daraus erzeugten sie mehr als 76.000 Varianten entsprechender genetischer Codes.
Dann prüften sie, ob vier auf dem Markt erhältliche Software-Programme diese potenziell gefährlichen Sequenzen erkannten. Das am schlechtesten abschneidende Programm identifizierte nur knapp 17.600 Varianten als potenziell gefährlich, die anderen Programme immerhin zwischen 41.650 und knapp 53.000.
In einem weiteren Schritt veränderte das Team die Softwares derart, dass eine größere Zahl an potenziell gefährlichen Codes erkannt wurde. Nach diesem Software-Update erkannte das zuvor schlechteste Programm rund 51.200 gefährliche Codes, zwei andere 53.850 und 58.000.
"Es ist wichtig, Aufmerksamkeit für dieses Problem zu schaffen"
"Wir hoffen, dass dieses Projekt ein rechtzeitiges Beispiel dafür ist, wie durch eine Kombination aus technischer Innovation, gemeinsamer Forschung, objektiver Analyse und einem wohlüberlegten Prozess eine reaktionsschnelle und verantwortungsvolle Risikominderung erreicht werden kann", schreiben die Autoren.
"Beim Protein-Design sehen viele zunächst die fantastischen Anwendungsmöglichkeiten, zum Beispiel in der Medizin", sagte Gunnar Schröder vom Forschungszentrum Jülich, der selbst nicht an der Arbeit beteiligt war. "Diese Arbeit lenkt den Blick jedoch völlig zu Recht auf das Sicherheitsproblem dieser neuen Technologie." Mögliche Biowaffen könnten sich nicht nur gegen Menschen, sondern auch gegen Nutztiere und -pflanzen richten. "Es ist sehr wichtig, Aufmerksamkeit für dieses Problem zu schaffen und weitere Forschung in dieser Richtung voranzutreiben."
Ähnlich äußert sich Dirk Lanzerath von der Universität Bonn. "Zur Ausarbeitung geeigneter Bewertungsmaßstäbe ist empirische Forschung zu den Risikopotenzialen dieser Technologie unverzichtbar", erklärte der Direktor des Deutschen Referenzzentrums für Ethik in den Biowissenschaften (DRZE). "Die in "Science" vorgestellte Studie zur Anpassung bestehender Screening-Methoden ist in diesem Zusammenhang ein wichtiger Schritt."
