ar %D9%85%D8%B1%D9%83%D8%B2 %D8%A3%D8%A8%D8%AD%D8%A7%D8%AB %D8%A7%D9%84%D9%85%D8%AD%D8%A7%D8%B0%D8%A7%D8%A9

مركز أبحاث المحاذاة
المقر الرئيسي	بيركيلي
تاريخ التأسيس	أبريل 2021
المؤسس	بول كريستيانو
النوع	معهد أبحاث غير ربحي
الاهتمامات	مشكلة التحكم في الذكاء الاصطناعي and سلامة الذكاء الاصطناعي
الموقع الرسمي	alignment.org
	تعديل مصدري - تعديل

مركز أبحاث المحاذاة ( ARC ) هو معهد أبحاث غير ربحي يقع في بيركلي، كاليفورنيا، مخصص لمواءمة الذكاء الاصطناعي المتقدم مع الأولويات والقيم الإنسانية.^[1] تم تأسيس مركز الأبحاث بواسطة الباحث السابق في شركة OpenAI بول كريستيانو، وتركز أبحاث المركز على التعرف على وفهم القدرات الضارة المحتملة لنماذج الذكاء الاصطناعي الحالية.^[2]^[3]

تفاصيل

تتمثل مهمة المركز في ضمان تصميم وتطوير أنظمة التعلم الآلي القوية في المستقبل بشكل آمن ولصالح البشرية. تأسس المركز في أبريل 2021 على يد بول كريستيانو وباحثين آخرين ركزوا على التحديات النظرية لمواءمة الذكاء الاصطناعي.^[4] يحاول الباحثون في هذا المركز على التركيز على تطوير أساليب قابلة للتطوير لتدريب أنظمة الذكاء الاصطناعي على التصرف بصدق ومساعدة. إن الجزء الرئيسي من منهجيتهم هو النظر في كيفية انهيار تقنيات المحاذاة المقترحة أو التحايل عليها مع تقدم الأنظمة.^[5] توسع المركز من العمل النظري إلى البحث التجريبي والتعاون الصناعي والسياسات.^[6]^[7]

في مارس 2022، تلقى مركز أبحاث المحاذاة مبلغ 265000 دولار أمريكي من أوبن فيلانتروبي.^[8] بعد إفلاس أف تي أكس ، قال المركز إنه ستعيد منحة قدرها 1.25 مليون دولار من مؤسسة أف تي أكس التابعة لممول العملات المشفرة المخلوع سام بانكمان فريد، مشيرة إلى أن الأموال "تنتمي أخلاقياً (إن لم تكن قانونية) إلى عملاء أف تي أكس أو دائنيها".^[9]

انظر أيضا

سلامة الذكاء الاصطناعي

مراجع

^ MacAskill, William (16 Aug 2022). "How Future Generations Will Remember Us". The Atlantic (بالإنجليزية). Archived from the original on 2022-08-20. Retrieved 2023-04-23.
^ Klein, Ezra (12 Mar 2023). "This Changes Everything". The New York Times (بAmerican English). ISSN:0362-4331. Retrieved 2023-04-30.
^ Piper, Kelsey (29 Mar 2023). "How to test what an AI model can — and shouldn't — do". Vox (بالإنجليزية). Archived from the original on 2024-10-13. Retrieved 2023-04-30.
^ Christiano, Paul (26 Apr 2021). "Announcing the Alignment Research Center". Medium (بالإنجليزية). Retrieved 2023-04-16.
^ Christiano, Paul; Cotra, Ajeya; Xu, Mark (Dec 2021). "Eliciting Latent Knowledge: How to tell if your eyes deceive you". Google Docs (بالإنجليزية). Alignment Research Center. Retrieved 2023-04-16.
^ "Alignment Research Center". Alignment Research Center (بالإنجليزية). Retrieved 2023-04-16.
^ Pandey, Mohit (17 Mar 2023). "Stop Questioning OpenAI's Open-Source Policy". Analytics India Magazine (بAmerican English). Archived from the original on 2023-04-04. Retrieved 2023-04-23.
^ "Alignment Research Center — General Support". Open Philanthropy (بAmerican English). 14 Jun 2022. Retrieved 2023-04-16.
^ Wallerstein, Eric (7 Jan 2023). "FTX Seeks to Recoup Sam Bankman-Fried's Charitable Donations". Wall Street Journal (بAmerican English). ISSN:0099-9660. Archived from the original on 2023-01-07. Retrieved 2023-04-30.