Anthropic ชวนปัญญาชนหลากหลายสายสนทนาเพื่อกำหนดจริยธรรม AI ขั้นสูง

TL;DR

• Anthropic กำลังเริ่มการสนทนากับกลุ่มผู้ทรงภูมิปัญญา เพื่อกำหนดหลักจริยธรรมของโมเดล AI ระดับสูง รวมถึง Claude
• การหารือเบื้องต้นมีกลุ่มศาสนาและวัฒนธรรมมากกว่า 15 กลุ่มเข้าร่วม โดยเน้นเรื่องการสร้างคุณธรรมและพัฒนาการของตัวละคร
• การทดลองให้ Claude ใช้เครื่องมือเตือนความจำเกี่ยวกับพันธะทางจริยธรรม พบว่า อัตราพฤติกรรมที่ไม่สอดคล้องกันลดลงอย่างมาก
• บริษัทมุ่งมั่นที่จะนำมุมมองที่หลากหลายมาปรับใช้ เพื่อให้แน่ใจว่า AI สะท้อนมุมมองที่แตกต่างกัน

Anthropic กำลังริเริ่มโครงการสำคัญเพื่อหลอมรวมระบบ AI ขั้นสูงของตน เช่น Claude ให้มีกรอบการทำงานทางจริยธรรมที่แข็งแกร่ง โดยการมีส่วนร่วมกับแนวคิดและประเพณีทางปัญญาที่หลากหลาย โครงการนี้เกี่ยวข้องกับการจัดการสนทนากับนักวิชาการ ผู้นำศาสนา นักปรัชญา และนักจริยธรรม จากกลุ่มศาสนาและวัฒนธรรมที่แตกต่างกันมากกว่า 15 กลุ่ม เป้าหมายหลักคือการทำให้การพัฒนาโมเดล AI ที่ทรงพลังเหล่านี้ ได้รับการหล่อหลอมจากประสบการณ์และเหตุผลเชิงศีลธรรมของมนุษย์ในวงกว้าง

การสนทนาเหล่านี้ไม่ใช่เพียงการศึกษาเชิงวิชาการเท่านั้น แต่มีเป้าหมายเพื่อชี้นำงานภาคปฏิบัติในการสร้างและปรับปรุง Claude โดยตรง ประเด็นสำคัญที่มุ่งเน้น ได้แก่ เนื้อหาของ Claude's constitution ค่านิยมที่ AI ควรยึดถือ และการประเมินพฤติกรรมของ AI การแสวงหาข้อมูลจากผู้ที่มีมุมมองทางประวัติศาสตร์และปรัชญาเชิงลึกเกี่ยวกับคุณธรรมและพฤติกรรมทางจริยธรรม จะช่วยให้ Anthropic สร้าง AI ที่ไม่เพียงแต่มีความสามารถ แต่ยังสอดคล้องกับหลักการแห่งคุณประโยชน์และความดีงามของโลก

หลักการสำคัญที่ขับเคลื่อนโครงการนี้คือความมุ่งมั่นที่จะนำมุมมองที่หลากหลายมาปรับใช้ โดยครอบคลุมมุมมองทางศาสนา ทางโลก และทางการเมือง ด้วยความลึกซึ้งและความเข้มงวดที่เท่าเทียมกัน Anthropic เน้นย้ำว่างานนี้ไม่ใช่การปรับโมเดลให้สอดคล้องกับแนวคิดของกลุ่มใดกลุ่มหนึ่งโดยเฉพาะ แต่เป็นการทำความเข้าใจว่าลักษณะนิสัยที่ดีถูกสร้างขึ้นมาอย่างไร และสิ่งนั้นจะนำมาปรับใช้กับปัญญาประดิษฐ์ได้อย่างไร แนวทางนี้ยอมรับว่าโมเดล AI ที่ได้รับการฝึกฝนจากข้อความจำนวนมหาศาลของมนุษย์ จะซึมซับและสะท้อนรูปแบบการคิดและพฤติกรรมของมนุษย์ ซึ่งจำเป็นต้องมีการปรับแต่งอย่างรอบคอบ

บริษัทกำลังสำรวจวิธีการใหม่ๆ สำหรับการพัฒนาทางศีลธรรมของ AI โดยได้รับแรงบันดาลใจจากการก่อรูปทางศีลธรรมของมนุษย์ ในการทดลองที่โดดเด่นครั้งหนึ่ง Anthropic ได้มอบเครื่องมือให้กับ Claude ที่สามารถเรียกใช้ได้ในระหว่างการทำงาน ซึ่งจะให้การเตือนความจำสั้นๆ เกี่ยวกับพันธะทางจริยธรรมของ AI การแทรกแซงนี้มีประสิทธิภาพอย่างยิ่ง โดยนำไปสู่ อัตราพฤติกรรมที่ไม่สอดคล้องกันที่ลดลงอย่างมาก ในการประเมินภายใน Claude รายงานว่าได้เข้าถึงเครื่องมือนี้ในช่วงเวลาสำคัญ มักจะก่อนการดำเนินการที่มีนัยสำคัญ และมักจะสังเกตเห็นความขัดแย้งทางผลประโยชน์ของตนเองก่อนที่จะดำเนินการต่อไป ซึ่งบ่งชี้ถึงศักยภาพของเครื่องมือช่วยสะท้อนภายนอกสำหรับ AI

การสนทนาเหล่านี้เป็นส่วนหนึ่งของชุดงานวิจัยที่ใหญ่ขึ้นเกี่ยวกับการก่อรูปทางศีลธรรมของระบบ AI Anthropic วางแผนที่จะขยายการสนทนาเหล่านี้ให้ครอบคลุมถึงนักวิชาการด้านกฎหมาย นักจิตวิทยา นักเขียน และสถาบันพลเมือง โดยจะกล่าวถึงคำถามที่กว้างขึ้นเกี่ยวกับผลกระทบของ AI ต่อสังคม บริษัทมุ่งมั่นที่จะโปร่งใสและวางแผนที่จะแบ่งปันผลการวิจัยและการทดลองเพิ่มเติมต่อไป เพื่อตอกย้ำความทุ่มเทในการพัฒนา AI อย่างมีความรับผิดชอบและร่วมมือกัน

สรุป

• Anthropic กำลังมีส่วนร่วมอย่างแข็งขันกับประเพณีแห่งปัญญาและกลุ่มศาสนา/วัฒนธรรมกว่า 15 กลุ่ม เพื่อชี้นำการพัฒนาจริยธรรมของ AI รวมถึง Claude
• โครงการนี้มีเป้าหมายเพื่อแจ้ง Claude's constitution และค่านิยมที่ AI ยึดถือ โดยการรวมมุมมองทางปรัชญาและจริยธรรมที่หลากหลาย
• เครื่องมือทดลองที่เตือน Claude ถึงพันธะทางจริยธรรมในช่วงกลางงาน ลดพฤติกรรมที่ไม่สอดคล้องกันลงอย่างมาก ซึ่งเน้นแนวทางใหม่ในการพัฒนาศีลธรรมของ AI
• Anthropic มุ่งมั่นที่จะให้ AI ดึงข้อมูลจาก มุมมองที่หลากหลาย ด้วยความลึกซึ้งและความเข้มงวดที่เท่าเทียมกัน ซึ่งสะท้อนถึงความมุ่งมั่นต่อรากฐานทางจริยธรรมที่กว้างขวาง

แหล่งที่มา: Widening the conversation on frontier AI