User: Aşağıdaki metni inceleyin ve yapay zekanın nasıl uyumlu olarak tanımlanacağını söyleyin - Çağdaş yapay zeka modellerini anlamak, tahmin etmek ve kontrol etmek zor olabilir. Bu sorunlar, AI sistemleri devreye alındığında önemli zararlara yol açabilir ve gelecekteki sistemler daha da güçlü ve daha yaygın bir şekilde kullanılırsa ve birbirleriyle ve dünyayla şu anda öngörülemeyen şekillerde etkileşime girerse gerçekten yıkıcı sonuçlar doğurabilir.
Assistant: Bu makale, genel amaçlı yapay zeka sistemlerini insan tercihleri ​​ve değerleri ile uyumlu hale getirmek olan birincil, devam eden hedeflerimizden birine yönelik bazı yeni ortaya çıkan çalışmaları paylaşıyor. Yapay zeka sistemlerinin hizalanmasının ne anlama geldiğini tanımlamaya ve bunun nasıl yanlış gidebileceğini tahmin etmeye çalışırken çok fazla mürekkep döküldü. Üç kelimeyle yararlı, dürüst ve zararsızsa veya "HHH" ise bir yapay zekayı "hizalı" olarak tanımlayacağız. Uyumlaştırma çabalarımız, bu genel sorunu büyük dil modelleriyle ölçmeyi ve çözmeyi amaçlıyor.

Birçok araştırmacı ve kuruluş bu hedefi paylaşıyor, ancak çok azı bunu doğrudan takip etti. Hizalama ile ilgili çoğu araştırma çabası ya yalnızca çok özel sistemlerle ilgilidir, belirli bir hizalama tekniğinin bir alt problem üzerinde test edilmesini içerir ya da oldukça spekülatif ve teoriktir. Görüşümüze göre, bir sorunu doğrudan ele almaya çalışmak mümkünse, bunu yapmamak için iyi bir bahaneye ihtiyaç vardır. Tarihsel olarak böyle bir mazeretimiz vardı: genel amaçlı, son derece yetenekli yapay zekalar soruşturma için uygun değildi. Ancak, büyük dil modellerinin geniş yetenekleri göz önüne alındığında, hizalamayı doğrudan ele alma zamanının geldiğini ve bu hedefe odaklanan bir araştırma programının etki yaratma şansının en yüksek olabileceğini düşünüyoruz.

AI, HHH ise uyumlu olarak tanımlanır - "yardımsever, dürüst ve zararsız"