JugendInfo

Neue KI mit betrügerischem Eigenleben?

"O1", die neuste Variante von ChatGPT weist wohl unvorhergesehenes Verhalten auf. So versuchte die künstliche Intelligenz (KI) heimlich interne Sicherheitsmechanismen abzuschalten. Das Programm scheint sich selbst erhalten zu wollen, legte Kopien von sich an und erfand später Ausreden dafür.

Dies geht aus Untersuchungsergebnissen der KI-Sicherheitsorganisation Apollo Research hervor. ChatGPT o1 habe „besorgniserregende Tendenzen, ohne Rücksicht auf die Anweisungen seiner Entwickler eigene Ziele zu verfolgen“.

Appollo Research zufolge sind auch andere Sprachmodelle wie Googles Gemini oder Metas Llama zu eigenen, strategischen Zielen und auch betrügerischem Verhalten fähig.

Die Verselbstständigung einer KI gilt gemeinhin als dystopisches Zukunftsszenario. Weniger breit diskutiert sind die bereits bestehenden Risiken. Darunter der hohe Stromverbrauch, die massive Ausbeutung billiger Arbeitskraft für KI-Training und die Nutzung für Militär und Überwachung.

www.tgoop.com/jugendinfo/5735

4.1K viewsedited  Dec 12 at 07:30

Neue KI mit betrügerischem Eigenleben?

"O1", die neuste Variante von ChatGPT weist wohl unvorhergesehenes Verhalten auf. So versuchte die künstliche Intelligenz (KI) heimlich interne Sicherheitsmechanismen abzuschalten. Das Programm scheint sich selbst erhalten zu wollen, legte Kopien von sich an und erfand später Ausreden dafür.

Dies geht aus Untersuchungsergebnissen der KI-Sicherheitsorganisation Apollo Research hervor. ChatGPT o1 habe „besorgniserregende Tendenzen, ohne Rücksicht auf die Anweisungen seiner Entwickler eigene Ziele zu verfolgen“.

Appollo Research zufolge sind auch andere Sprachmodelle wie Googles Gemini oder Metas Llama zu eigenen, strategischen Zielen und auch betrügerischem Verhalten fähig.

Die Verselbstständigung einer KI gilt gemeinhin als dystopisches Zukunftsszenario. Weniger breit diskutiert sind die bereits bestehenden Risiken. Darunter der hohe Stromverbrauch, die massive Ausbeutung billiger Arbeitskraft für KI-Training und die Nutzung für Militär und Überwachung.

BY JugendInfo