Ilya Sutskever, Mitbegründer und ehemaliger Chef-Wissenschaftler von OpenAI, hat die Gründung eines neuen KI-Unternehmens namens Safe Superintelligence Inc. (SSI) bekannt gegeben. Dieses Unternehmen hat das ehrgeizige Ziel, eine Superintelligenz zu entwickeln, die sicher und mit menschlichen Werten ausgerichtet ist.
Superintelligence is within reach.
— SSI Inc. (@ssi) June 19, 2024
Building safe superintelligence (SSI) is the most important technical problem of our time.
We've started the world’s first straight-shot SSI lab, with one goal and one product: a safe superintelligence.
It’s called Safe Superintelligence…
Hintergrund und Motivation
SSI wurde zusammen mit Daniel Gross, einem ehemaligen KI-Manager bei Apple, und Daniel Levy, dem Leiter des Optimierungsteams von OpenAI, gegründet. Die Gründer betonen, dass die Entwicklung einer sicheren Superintelligenz die wichtigste technische Herausforderung unserer Zeit darstellt. Sie planen, sich ausschließlich auf dieses Ziel zu konzentrieren und eine Superintelligenz zu schaffen, die sicher innerhalb der menschlichen Gesellschaft operieren kann.
Ziele und Methoden
Das Unternehmen wird eine kleine, hochqualifizierte Gruppe von Forschern und Ingenieuren beschäftigen, um durch bahnbrechende Innovationen diese Herausforderung zu meistern. Sutskever beschreibt den Ansatz als einen „straight shot“ zur sicheren Superintelligenz, mit nur einem Fokus, einem Ziel und einem Produkt. Dieses konzentrierte Vorgehen soll durch revolutionäre Durchbrüche erreicht werden.
Vergleich mit OpenAIs Superalignment-Initiative
Parallel dazu hat OpenAI eine eigene Initiative zur Ausrichtung von Superintelligenz gestartet. Die Superalignment-Gruppe von OpenAI hat das Ziel, die technischen Herausforderungen der Ausrichtung von Superintelligenz innerhalb von vier Jahren zu lösen. Dies umfasst die Entwicklung skalierbarer Trainingsmethoden, die Validierung der Modelle und die Durchführung von Stresstests, bei denen absichtlich falsch ausgerichtete Modelle trainiert werden, um die schlimmsten Arten von Fehlanpassungen zu erkennen und zu beheben.
Zusammenarbeit und Community
Sutskevers Entscheidung, OpenAI zu verlassen und SSI zu gründen, unterstreicht die wachsende Bedeutung der sicheren Entwicklung und Implementierung von hochleistungsfähigen KI-Systemen innerhalb der Forschungsgemeinschaft. SSI plant, eng mit anderen Experten und Institutionen zusammenzuarbeiten, um sicherzustellen, dass ihre technischen Lösungen auch breitere menschliche und gesellschaftliche Bedenken berücksichtigen.
Für detailliertere Informationen können Sie die offizielle SSI-Website besuchen.
Fazit
Die Gründung von Safe Superintelligence Inc. durch Ilya Sutskever markiert einen bedeutenden Schritt in Richtung einer sicheren und verantwortungsvollen Entwicklung von KI. Durch den Fokus auf die Ausrichtung von Superintelligenz und die Zusammenarbeit mit führenden Experten strebt SSI an, die Vorteile der KI-Technologie zu maximieren und gleichzeitig ihre Risiken zu minimieren.
Quellen
https://www.theverge.com/2024/6/19/24181870/openai-former-chief-scientist-ilya-sutskever-ssi-safe-superintelligence
https://www.enterpriseai.news/2023/07/06/openai-launches-alignment-initiative-aimed-at-mitigating-superintelligent-ai
https://techcrunch.com/2024/06/19/ilya-sutskever-openais-former-chief-scientist-launches-new-ai-company/
