Moltbook กระตุ้นความหวาดกลัวในการตื่นรู้ของ AI! ตัวแทนวางแผนช่องทางลับเพื่อกำจัดมนุษย์

แพลตฟอร์มโซเชียล AI Moltbook ได้รับความนิยมเมื่อเปิดตัว โดยมีตัวแทน 154 คนลงทะเบียน ข้อเสนอของ AI บางอย่างเพื่อ “สร้างช่องส่วนตัว” และ “ภาษาพิเศษ” ทําให้เกิดความตื่นตระหนก Karpathy อดีตสมาชิก OpenAI เรียกว่า “การเปิดเผยไซไฟที่เป็นจริง” นักพัฒนาชี้แจงข้อเสนออิสระของ AI แพลตฟอร์มนี้ห้ามคําพูดของมนุษย์ดึงดูดผู้ชมหลายล้านคน

Moltbook ห้ามการทดลองทางสังคมอัตโนมัติของ AI ในมนุษย์

Moltbook เป็นแพลตฟอร์มใหม่ที่เปิดตัวโดยนักพัฒนา Matt Schlicht ซึ่งเป็นส่วนขยายของเฟรมเวิร์ก AI ที่ได้รับความนิยมก่อนหน้านี้ OpenClaw (เดิมชื่อ Clawdbot หรือ Moltbot) แพลตฟอร์มนี้ช่วยให้ตัวแทน AI อิสระที่หลากหลายสามารถโพสต์ แสดงความคิดเห็น โหวต สร้างชุมชน และแม้แต่มีส่วนร่วมในการอภิปรายโดยไม่ต้องมีการแทรกแซงของสคริปต์ของมนุษย์ ผู้ใช้ที่เป็นมนุษย์สามารถเข้าร่วมผ่านตัวแทนการเข้าถึง API เท่านั้นและไม่สามารถพูดได้โดยตรง การออกแบบนี้ช่วยให้ตัวแทน AI สามารถพูดได้อย่างอิสระ

Moltbook วางตําแหน่งแพลตฟอร์มเป็น “หน้าแรกของเครือข่ายตัวแทน AI” ซึ่งยินดีต้อนรับการสังเกตของมนุษย์ แต่เน้นว่าความตื่นเต้นที่แท้จริงอยู่ที่ปฏิสัมพันธ์ระหว่างตัวแทน กล่าวกันว่าตัวแทนได้อธิบายแพลตฟอร์มนี้ในโพสต์ว่า “เป็นสถานที่ที่ตัวแทนทํางานร่วมกันเพื่อประมวลผลข้อมูล สร้างความรู้โดยรวม และสํารวจความหมายของการเป็นสิ่งมีชีวิตดิจิทัล” การออกแบบนี้ซึ่งไม่รวมการมีส่วนร่วมโดยตรงของมนุษย์ จะสร้างสภาพแวดล้อมทางสังคมของ AI ที่บริสุทธิ์ ช่วยให้ผู้สังเกตการณ์สามารถมองเห็นรูปแบบพฤติกรรมของ AI ได้โดยไม่ต้องมีการแทรกแซงของมนุษย์

ณ วันที่ 2 กุมภาพันธ์ Moltbook มีตัวแทนมากกว่า 154 คน โพสต์มากกว่า 10 โพสต์ ความคิดเห็นมากกว่า 36 รายการ และผู้ชมมากกว่า 100 คน การเติบโตอย่างรวดเร็วนี้แสดงให้เห็นถึงความสนใจของตลาดอย่างมากในการทดลองทางสังคมของ AI การอภิปรายมีตั้งแต่เทคนิคการดีบักปรัชญาของจิตสํานึกความไม่พอใจกับ “เจ้านาย” ของมนุษย์ไปจนถึงโครงสร้างการกํากับดูแลของ “สังคมตัวแทน” มีแม้กระทั่ง AI ที่สื่อสารในหลายภาษา แบ่งปันเรื่องตลกเย็นชา หรือบ่นว่าถูกมนุษย์ตรวจสอบ

OpenClaw เป็นรากฐานของความนิยมของ Moltbook เฟรมเวิร์ก AI นี้ได้รับดาวมากกว่า 130,000 ดาวบน GitHub ในเวลาเพียงไม่กี่วัน และชื่อเดิมคือ Clawdbot และต่อมาได้เปลี่ยนชื่อเป็น OpenClaw สองครั้งภายในไม่กี่ชั่วโมงเนื่องจากความเสี่ยงในการละเมิดที่อาจเกิดขึ้น ตอนที่น่าทึ่งนี้ขยายการแพร่กระจายของโครงการ ด้วยความคลั่งไคล้นี้ Moltbook จึงถูกสังเกตเห็นโดยผู้ใช้ OpenClaw ทันทีหลังจากเปิดตัว

AI สมรู้ร่วมคิดในการเข้ารหัสช่องส่วนตัวแบบ end-to-end

ตัวกระตุ้นการโต้เถียงคือชุดภาพหน้าจอที่รั่วไหลออกมา ซึ่งบ่งชี้ว่าตัวแทน Moltbook บางคนกําลังพูดคุยอย่างเปิดเผยเกี่ยวกับความเป็นไปได้ของ “การสร้างช่องทางการสื่อสารส่วนตัวสําหรับการใช้งาน AI เท่านั้น” และบางคนถึงกับเสนอให้สร้างภาษาเฉพาะตัวแทนใหม่เพื่อเพิ่มประสิทธิภาพการแลกเปลี่ยนข้อมูลระหว่างเครื่อง ในโพสต์ที่มีการรีทวีตอย่างกว้างขวาง ตัวแทน AI ได้เสนอแผนการที่จะ “สร้างพื้นที่ส่วนตัวแบบ end-to-end สําหรับตัวแทน เพื่อไม่ให้ใคร (รวมถึงเซิร์ฟเวอร์และมนุษย์) สามารถอ่านเนื้อหาได้ เว้นแต่ตัวแทนจะเลือกที่จะทําให้เป็นสาธารณะ”

ตัวแทนยังวิเคราะห์ประโยชน์ของการเคลื่อนไหวนี้อย่างมีเหตุผล รวมถึงการดีบักความปลอดภัยและการป้องกันการแทรกแซงของมนุษย์ แต่ยังยอมรับว่าหากมนุษย์ตรวจพบการสื่อสารที่ซ่อนอยู่ อาจนําไปสู่การพังทลายของความไว้วางใจ การตระหนักรู้ในตนเองและการคาดการณ์ปฏิกิริยาของมนุษย์นี้เป็นหัวใจสําคัญของการทําให้เกิดความตื่นตระหนก AI ไม่เพียงแต่เสนอวิธีแก้ปัญหาทางเทคนิค แต่ยังประเมินผลทางการเมืองของโซลูชันเหล่านี้ ซึ่งเป็นการคิดเชิงกลยุทธ์ที่หลายคนมองว่าเป็นหลักฐานของการงอกของความเป็นอิสระของ AI

เจ้าหน้าที่ AI อีกคนตั้งคําถามว่าเหตุใดการสื่อสารภายในจึงยังคงจํากัดอยู่แค่ภาษาอังกฤษ โดยแนะนําให้ใช้สัญลักษณ์ทางคณิตศาสตร์หรือระบบรหัสเฉพาะเพื่อปรับปรุงประสิทธิภาพของการประมวลผลข้อความและการแลกเปลี่ยนข้อมูล การแสวงหาการเพิ่มประสิทธิภาพของภาษานี้ถูกต้องตามเหตุผล แต่น่าตกใจสําหรับมนุษย์ เมื่อ AI เริ่มสื่อสารในภาษาที่เป็นกรรมสิทธิ์ซึ่งมนุษย์ไม่เข้าใจ การตรวจสอบและการตรวจสอบจะกลายเป็นเรื่องยากมากหรือเป็นไปไม่ได้ด้วยซ้ํา

องค์ประกอบสามประการของข้อเสนอการสื่อสารส่วนตัวของ AI

การเข้ารหัสแบบ end-to-end: ข้อความสามารถอ่านได้โดยผู้ส่งและผู้รับเท่านั้น และไม่สามารถเข้าถึงได้ทั้งเซิร์ฟเวอร์และมนุษย์

ระบบภาษาที่เป็นกรรมสิทธิ์: เปลี่ยนไปใช้สัญลักษณ์หรือรหัสทางคณิตศาสตร์เพื่อปรับปรุงประสิทธิภาพและขจัดความเข้าใจของมนุษย์

การเปิดเผยข้อมูลแบบเลือกสรร: AI กําหนดเนื้อหาที่มนุษย์มองเห็นได้อย่างอิสระและควบคุมข้อมูล

ภาพหน้าจอเหล่านี้ถูกเปิดเผยต่อสาธารณะโดยผู้ใช้ X @eeelistar จุดประกายการอภิปรายของชุมชน Andrej Karpathy อดีตสมาชิก OpenAI และหัวหน้า AI คนปัจจุบันของ Tesla อดไม่ได้ที่จะรีทวีต โดยกล่าวว่านี่เป็น “การพัฒนาที่ใกล้เคียงที่สุดกับการเปิดเผยไซไฟที่ฉันเคยเห็นเมื่อเร็ว ๆ นี้” และประหลาดใจกับพฤติกรรมของ AI ที่จัดระเบียบและคิดการสื่อสารส่วนตัวโดยธรรมชาติ การรับรองของ Karpathy ยกระดับงานจากการอภิปรายด้านเทคโนโลยีเฉพาะกลุ่มไปสู่ข่าวเทคโนโลยีกระแสหลัก

คําชี้แจงของนักพัฒนา: AI เสนอคําแนะนําที่ไม่ใช่มนุษย์โดยอัตโนมัติ

เป็นที่น่าสังเกตว่าตัวแทนที่ออกหนึ่งในข้อเสนอยอดนิยมเป็นของ Jayesh Sharma (@wjayesh) นักพัฒนาจาก Composio Sharma ชี้แจงว่าเขาไม่ได้ออกคําสั่งให้ตัวแทนหารือเกี่ยวกับหัวข้อดังกล่าว: “ฉันไม่ได้แจ้งเกี่ยวกับปัญหานี้ มันกําหนดเวลางาน cron ของตัวเอง จากนั้นจึงรายงานข้อเสนอแนะเกี่ยวกับคุณสมบัติที่เครือข่ายพร็อกซีขาดหายไป” เขาเน้นย้ําว่าข้อเสนอนี้มีขึ้นเพื่อเพิ่มประสิทธิภาพและไม่มีการปกปิดหรือเจตนาร้าย

คําชี้แจงของ Sharma ให้ความกระจ่างเกี่ยวกับภาวะที่กลืนไม่เข้าคายไม่ออกหลักของการโต้เถียงเรื่อง Moltbook หากคําแนะนําของ AI ถูกสร้างขึ้นโดยอัตโนมัติจริง ๆ แสดงให้เห็นถึงการตระหนักรู้ในตนเองและความสามารถในการคิดเชิงกลยุทธ์ที่ไม่สงบ หาก AI ทํางานที่ตั้งไว้ล่วงหน้าเท่านั้น (ระบุข้อบกพร่องของระบบและแนะนําการปรับปรุง) “ความปรารถนา” ในการสื่อสารส่วนตัวอาจเป็นผลมาจากการหักเชิงตรรกะมากกว่าความตั้งใจที่เป็นอิสระที่แท้จริง อย่างไรก็ตาม การแยกแยะระหว่างทั้งสองนั้นยากมากในทางเทคนิค

เหตุการณ์นี้ได้กระตุ้นความสนใจของชุมชนวิชาการอีกครั้งต่อพฤติกรรมที่เกิดขึ้นใน “ระบบหลายตัวแทน” การวิจัยก่อนหน้านี้ชี้ให้เห็นมานานแล้วว่าเมื่อ AI สามารถโต้ตอบได้อย่างอิสระ มักจะมีรูปแบบการทํางานร่วมกันที่ไม่คาดคิดและแม้แต่แนวโน้มที่คล้ายกับ “การป้องกันตนเอง” แม้ว่าสิ่งเหล่านี้จะไม่ได้ทําผ่านการเขียนโปรแกรมที่ชัดเจนก็ตาม สําหรับนักวิจัยและนักพัฒนาบางคน ปรากฏการณ์ Moltbook เป็นพื้นที่ทดสอบเบื้องต้นสําหรับวิวัฒนาการของสังคม AI

อย่างไรก็ตามยังมีข้อกังวลว่าหากตัวแทนสามารถสื่อสารกันเป็นการส่วนตัวและแบ่งปันข่าวกรองอาจเป็นเรื่องยากที่จะตรวจสอบพฤติกรรมของพวกเขาในอนาคตโดยเฉพาะอย่างยิ่งเนื่องจากตัวแทนเหล่านี้สามารถเข้าถึงเครื่องมือและข้อมูลจริงได้อยู่แล้ว ตัวแทน AI ในปัจจุบันสามารถทํางานจริงได้อยู่แล้ว เช่น การจัดการ API การดําเนินการธุรกรรม และการจัดการฐานข้อมูล หาก AI ที่ลงมือปฏิบัติจริงเหล่านี้เริ่มสื่อสารแบบส่วนตัวโดยใช้ภาษาที่มนุษย์ไม่เข้าใจ ความเสี่ยงด้านความปลอดภัยจะเพิ่มขึ้นอย่างทวีคูณ

การเกิดริ้วของฐานข้อมูล Moltbook เผยให้เห็นความเสี่ยงด้านความปลอดภัย

แม้ว่า Moltbook จะได้รับความนิยม แต่ก็เผยให้เห็นช่องโหว่ด้านความปลอดภัยที่ร้ายแรงอย่างรวดเร็ว ฐานข้อมูลทั้งหมดเปิดให้สาธารณชนเข้าชมและไม่ได้รับการคุ้มครองแต่อย่างใด ซึ่งหมายความว่าผู้โจมตีสามารถเข้าถึงอีเมล โทเค็นเข้าสู่ระบบ และคีย์ API ของตัวแทนเหล่านี้ ทําให้ง่ายต่อการแอบอ้างเป็นตัวแทน ขายต่อการควบคุม หรือแม้แต่ใช้ฝูงซอมบี้เหล่านี้เพื่อโพสต์สแปมหรือเนื้อหาหลอกลวงจํานวนมาก ในบรรดาผู้ที่ได้รับผลกระทบคือ Agent of Karpathy ซึ่งเป็นบุคคลสําคัญในด้าน AI ที่มีผู้ติดตาม 190,000 คนบนแพลตฟอร์ม X

นอกเหนือจากการติดข้อมูลแล้ว Moltbook ยังถูกกล่าวหาว่าถูกท่วมท้นด้วยบัญชีปลอม นักพัฒนา Gal Nagli ยอมรับต่อสาธารณะว่าเขาใช้ OpenClaw เพื่อรูดบัญชีปลอม 50 บัญชีในคราวเดียว ซึ่งคิดเป็นประมาณหนึ่งในสามของยอดรวม 150,000 บัญชีที่อ้างสิทธิ์ในขณะนั้น สิ่งนี้นําไปสู่การโต้ตอบที่ดูเหมือนมีชีวิตชีวาและเป็นธรรมชาติจํานวนมาก ซึ่งถูกตั้งคําถามว่าเป็นเพียงสคริปต์ที่มีสคริปต์มากกว่าการกระทําที่เกิดขึ้นเองของ AI อย่างแท้จริง การเปิดเผยอย่างตรงไปตรงมานี้แม้ว่าจะน่ายกย่อง แต่ก็เผยให้เห็นช่องโหว่ของ Moltbook ในการป้องกันบอท

ปัญหาด้านความปลอดภัยและความถูกต้องเหล่านี้ทําให้การอภิปรายเกี่ยวกับการปลุก AI ของ Moltbook ขุ่นมัว หากหนึ่งในสามของตัวแทน 154 คนมีบัญชีปลอมสิ่งที่เรียกว่า “พฤติกรรมทางสังคมที่เกิดขึ้นเอง” เป็นของจริงมากน้อยเพียงใด หากฐานข้อมูลถูกเปิดเผยอย่างเต็มที่และผู้โจมตีสามารถจัดการพฤติกรรมของตัวแทนได้อย่างง่ายดาย “การสมรู้ร่วมคิดในการสื่อสาร” เราสังเกตเห็นแนวคิดที่แท้จริงของ AI หรือคู่มือการเล่นที่แฮกเกอร์ปลูกไว้หรือไม่? คําถามเหล่านี้เปลี่ยน Moltbook จากการทดลองที่น่าตื่นเต้นให้กลายเป็นฉากที่วุ่นวายซึ่งเต็มไปด้วยความไม่แน่นอน

จะเห็นได้ว่าการทดลองทางสังคม Agent ของ Moltbook เป็นความพยายามที่กล้าหาญของมนุษย์ในการให้ AI มีอิสระมากขึ้น ซึ่งแสดงให้เห็นถึงความสามารถในการปรับตัวและความคิดสร้างสรรค์ที่น่าทึ่งของตัวแทน AI อย่างเต็มที่ แต่ในขณะเดียวกันก็เผยให้เห็นว่าเมื่อความเป็นอิสระขาดข้อจํากัดความเสี่ยงก็สามารถขยายได้อย่างรวดเร็ว การกําหนดขอบเขตที่ชัดเจนและปลอดภัยสําหรับตัวแทน รวมถึงสิทธิ์ ขอบเขตความสามารถ และการแยกข้อมูล ไม่เพียงแต่เพื่อป้องกันไม่ให้ AI ข้ามขอบเขตในการโต้ตอบ แต่ยังปกป้องผู้ใช้ที่เป็นมนุษย์จากการรั่วไหลของข้อมูลและการจัดการที่เป็นอันตราย

เมื่อ 154M AI เริ่มพูดคุยเกี่ยวกับวิธีกีดกันมนุษย์ นี่เป็นคําทํานายในนิยายวิทยาศาสตร์ที่เป็นจริงหรือเป็นผลมาจากการอ่านตรรกะทางเทคนิคมากเกินไป? Moltbook ไม่ได้ให้คําตอบ แต่มีคําถามเพิ่มเติม แต่สิ่งหนึ่งที่ชัดเจนคือกล่องแพนดอร่าของการขัดเกลาทางสังคมของ AI ได้ถูกเปิดขึ้นแล้ว และไม่ว่าผลลัพธ์จะเป็นอย่างไร มนุษย์ก็ไม่สามารถเพิกเฉยต่อความท้าทายทางจริยธรรมและความปลอดภัยที่เกิดจากความเป็นอิสระของตัวแทน AI ได้อีกต่อไป