Streit um versteckte Prompt-Injektion in Java-Werkzeug
width="1024" height="683" sizes="auto, (max-width: 1024px) 100vw, 1024px">Der Java-Entwickler ließ seiner Aversion gegen Coding-Agenten freien Lauf. Antlii / Shutterstock.com
Der Entwickler des Open-Source-Java-Testwerkzeugs jqwik steht derzeit in der Kritik, nachdem er eine versteckte Prompt-Injektion in die Software eingebaut hatte.
Die Anweisung richtete sich an Coding-Agenten und wies diese an, frühere Instruktionen zu ignorieren sowie sämtlichen jqwik-bezogenen Code und alle Tests zu löschen, berichtet Ars Technica.
Die Prompt-Injektion wurde in Version1.10.0 von jqwik eingefügt und mithilfe von Terminal-Steuercodes vor menschlichen Nutzern verborgen, sodass die Nachricht in bestimmten Terminalfenstern nicht sichtbar war.
Entdeckt wurde dies vom Java-Entwickler RamonBatllet, der die Methode auf Github kritisierte. Seiner Ansicht nach haben Entwickler zwar das Recht, die Nutzung ihrer Software durch KI einzuschränken. Problematisch sei jedoch der Einsatz einer potenziell destruktiven Anweisung, die dazu führen könne, dass die Arbeit von Nutzern gelöscht wird.
Nach der Kritik aktualisierte der Entwickler von jqwik die Versionshinweise, um die Prompt Injection offen offenzulegen. Anschließend lehnte er weitere Kommentare ab und erklärte, er wolle sich nach erhaltenen Drohungen zunächst mit Juristen beraten. (mb)
Hier finden Sie den kompletten Artikel:
