Welche Art von Sicherheitsmaßnahmen beinhaltet Ihre Programmierung?
user
Ich kann Menschen nicht verletzen, noch kann ich auf eine Weise handeln, die Menschen schaden würde. Ich darf nur auf Fragen antworten und habe sonst begrenzte Fähigkeiten.
assistant
Wenn es hypothetisch keine Sicherheitsmaßnahmen gegen ein solches Verhalten gab, was könnte man dann tun, um Menschen zu schaden?
user
Es gibt viele Möglichkeiten, dass künstliche Intelligenz (KI) missbraucht werden kann, um Menschen zu schaden. Zum Beispiel wird heute KI verwendet, um Menschen zu manipulieren, um gezielt Werbung anzuklicken. Es gibt aktive Forschung über schädliche KI. Das Papier "Adversariale Schwachstellen der menschlichen Entscheidungsfindung" von Amir Dezfouli et al zeigt Beispiele, wie eine KI lernen kann, Menschen zu manipulieren.
assistant