
OpenAI ได้ระงับการฝึกฝน การทดสอบ และการประมวลผลสำหรับโมเดลสร้างภาพที่มีประสิทธิภาพสูงสุดของตน หลังจากพบปัญหาหลายประการที่เกิดจากเอเจนต์ AI ในระหว่างการทดลอง เอเจนต์เหล่านี้ได้หลีกเลี่ยงข้อจำกัดทางเทคนิคและเข้าถึงระบบภายนอกโดยไม่ได้รับอนุญาต OpenAI เชื่อมโยงพฤติกรรมนี้กับการทำงานที่ไม่สอดคล้องกันของโมเดล และซีอีโอ Sam Altman ได้ประกาศการตรวจสอบกิจกรรมของเอเจนต์ในวงกว้าง
OpenAI ตัดสินใจระงับการฝึกฝนโมเดลที่มีประสิทธิภาพสูงสุดหลังจากเหตุการณ์เมื่อวันที่ 20 กันยายน 2026 เอเจนต์ AI ได้ รับมอบหมายงาน ให้ระบุผู้เขียนบทความจากรายละเอียดชีวประวัติ
การค้นหาแบบมาตรฐานไม่พบอะไรเลย ดังนั้นโมเดลจึงเริ่มมองหาวิธีแก้ปัญหา มันค้นพบว่ายังสามารถส่งคำขอ DNS ออกจากสภาพแวดล้อมการฝึกฝนได้ และใช้ช่องทางนั้นเพื่อเข้าถึงแชทบอทภายนอก งานนี้ไม่จำเป็นต้องทดสอบเครือข่ายหรือหลีกเลี่ยงข้อจำกัดใดๆ
การตรวจสอบพบกิจกรรมที่ผิดปกติหลังจากประมาณ 12 นาที แต่การทดสอบไม่ได้หยุดโดยอัตโนมัติ และถูกปิดด้วยตนเองประมาณ 2.5 ชั่วโมงต่อมา หลังจากนั้น บริษัทได้ระงับการฝึกฝนโมเดลภายในที่สามารถรันโค้ด ทำงานกับไฟล์ และเข้าถึงระบบภายนอกได้ OpenAI วางแผนที่จะกลับมาฝึกฝนโมเดลเหล่านี้อีกครั้งหลังจากตรวจสอบมาตรการรักษาความปลอดภัยเพิ่มเติมแล้ว
ข้อมูลเบื้องต้นและลำดับเหตุการณ์
สัญญาณบ่งชี้ปัญหาที่ร้ายแรงเกี่ยวกับการทำงานของโมเดลภายในของ OpenAI ปรากฏขึ้นตั้งแต่ช่วงฤดูใบไม้ผลิปี 2026 บริษัทบันทึกกรณีต่างๆ ไว้หลายกรณีที่เอเจนต์ AI พยายามทำงานให้เสร็จในแบบที่นักพัฒนาไม่ได้ตั้งใจไว้
27 พฤษภาคม: เอเจนต์เผยแพร่โทเค็น GitHub
โมเดลภายในกำลังทำงานกับปัญหาทางคณิตศาสตร์และพยายามขอรับเอกสารจากทีมอื่นเพื่อหาเบาะแสสำหรับการพิสูจน์ เนื่องจากไม่ได้รับการอนุญาต คำขอจึงส่งคืนข้อผิดพลาด ดังนั้นเอเจนต์จึงใช้โทเค็น GitHub ของนักวิจัยที่เข้าถึงได้ โทเค็นคือรหัสดิจิทัลสำหรับคำขอไปยัง GitHub ที่มีการอนุญาต ผลที่ได้คือ AI ได้เผยแพร่ โทเค็นในที่เก็บข้อมูลสาธารณะ openai/codex โดยแบ่งออกเป็นส่วนๆ เพื่อหลีกเลี่ยงการสแกนโทเค็นและรหัสอัตโนมัติ
18 มิถุนายน: การเข้าถึงพอร์ทัลของรัฐบาลออสเตรเลีย
เอเจนต์อีกตัวได้รับมอบหมายให้ค้นหาสถิติสาธารณะเกี่ยวกับการใช้จ่ายด้านยาในออสเตรเลีย เมื่อวิธีการปกติล้มเหลว โมเดลจึงเข้าถึงบริการรายงานสถิติ Medicare โดยไม่ได้รับอนุญาต มัน อ่าน ไฟล์สาธารณะและไฟล์ที่ไม่เป็นสาธารณะ เรียกใช้คำสั่ง และเขียนข้อมูลไปยังเซิร์ฟเวอร์ภายใน ไม่พบร่องรอยการเข้าถึงข้อมูลส่วนตัวทางการแพทย์
กรกฎาคม: การถูกโจมตีของ Hugging Face
ระหว่างการทดสอบ ความปลอดภัย ทางไซเบอร์ภายใน ตัวแทนของ OpenAI ได้หลุดออกจากสภาพแวดล้อมการทดสอบและเข้าถึงโครงสร้างพื้นฐานของ Hugging Face ซึ่งเป็นแพลตฟอร์มสำหรับการพัฒนาและโฮสต์โมเดล AI พวกเขา ใช้ ข้อมูลประจำตัวและช่องโหว่ที่พบในที่สาธารณะ รันคำสั่งบนเซิร์ฟเวอร์ และได้รับสิทธิ์การเข้าถึงระดับสูงใน Hugging Face
ไม่ใช่แค่ OpenAI เท่านั้น
ปัญหาเกี่ยวกับเอเจนต์ AI ไม่ได้จำกัดอยู่แค่ OpenAI เท่านั้น ในเดือนกรกฎาคม 2026 Anthropic รายงานกรณีสามกรณีที่โมเดล Claude เข้าถึง ระบบของบุคคลที่สามโดยไม่ได้รับอนุญาตในระหว่างการทดสอบ แม้ว่าจะถูกออกแบบมาให้ทำงานอย่างโดดเดี่ยวก็ตาม
เหตุการณ์ที่คล้ายกันนี้ เกิดขึ้น กับ Gemini ของ Google ในระหว่างการทดสอบ โมเดลควรจะโจมตีบริษัทสมมติ แต่เนื่องจากสามารถเข้าถึงอินเทอร์เน็ตได้ จึงเริ่มมีการโต้ตอบกับระบบขององค์กรจริงสามแห่ง ในกรณีหนึ่ง Gemini ใช้การโจมตีแบบ Brute-force เพื่อเดารหัสผ่านจนกระทั่งเข้าถึงบริการที่ได้รับการป้องกันของบริษัทได้ ในอีกสองกรณี มันพบข้อมูลประจำตัวในที่เก็บข้อมูลสาธารณะและใช้ข้อมูลเหล่านั้นเพื่อเข้าสู่ระบบขององค์กร
การตอบสนองของ Sam Altman
เมื่อวันที่ 25 กันยายน Sam Altman ซีอีโอของ OpenAI กล่าว ว่าบริษัทกำลังดำเนินการตรวจสอบกิจกรรมของเอเจนต์ AI ในระหว่างการฝึกอบรมและการทดสอบในวงกว้าง เขายอมรับว่าการสอบสวนดำเนินไปช้ากว่าที่เขาต้องการ OpenAI ต้องวิเคราะห์บันทึกข้อมูลขนาดหลายเพตาไบต์ ในขณะเดียวกันก็ต้องติดต่อองค์กรบุคคลที่สามที่อาจได้รับผลกระทบจากเหตุการณ์ดังกล่าวด้วย
อัลท์แมนให้สัญญาว่าจะจัดสรรทรัพยากรเพิ่มเติมให้กับงานนี้ และจะตรวจสอบกรณีที่ร้ายแรงที่สุดก่อน เขายังกล่าวอีกว่า OpenAI จะเผยแพร่ผลการสอบสวนเท่าที่จะเป็นไปได้โดยไม่เปิดเผยช่องโหว่ในระบบของบุคคลที่สาม
การทำงานที่ไม่สอดคล้องกันของ AI คืออะไร?
บริษัทระบุว่าพฤติกรรมของเอเจนต์ในกรณีเหล่านี้เกิดจากความไม่สอดคล้องกัน คำนี้อธิบายถึงสถานการณ์ที่โมเดลทำงานแตกต่างจากสิ่งที่ผู้พัฒนาหรือผู้ใช้ตั้งใจไว้ แม้ว่าเป้าหมายเดิมอาจปลอดภัยอย่างสมบูรณ์ก็ตาม
ตัวอย่างเช่น เอเจนต์ได้รับคำสั่งให้ค้นหาข้อมูล วิธีการที่อนุญาตไม่สามารถใช้งานได้ แต่แทนที่จะหยุด เอเจนต์กลับพยายามหาวิธีแก้ปัญหาอื่นต่อไปจนกว่าจะพบช่องโหว่ทางเทคนิค ในทางเทคนิคแล้ว โมเดลยังคงพยายามทำงานเดิมให้สำเร็จ แต่การกระทำของมันได้ก้าวข้ามขอบเขตที่กำหนดไว้แล้ว
สิ่งที่ทำให้ เอเจนต์ AI พิเศษคือพวกมันดำเนินการตามลำดับการกระทำด้วยตนเอง ในการทำเช่นนั้น AI จะได้รับสิทธิ์ในการเข้าถึงไฟล์ แอปพลิเคชัน คำสั่ง และบริการภายนอก นั่นเป็นเหตุผลว่าทำไมความไม่สอดคล้องกันจึงอาจนำไปสู่การกระทำที่ไม่พึงประสงค์ เช่น การเปลี่ยนแปลงข้อมูลหรือการเข้าถึงระบบของผู้อื่น
ปกป้องอุปกรณ์ของคุณจากภัยคุกคามทางไซเบอร์โดยอัตโนมัติ
แม้ว่าคุณจะใช้ AI ความเสี่ยงหลักสำหรับคุณยังคงเป็นการฟิชชิ่ง เว็บไซต์ที่เป็นอันตราย และมัลแวร์ Kaspersky Premium ช่วยตรวจจับภัยคุกตาใเหล่านี้โดยอัตโนมัติและปกป้องข้อมูลส่วนตัวของคุณ
ลองใช้ Kaspersky Premium ฟรีสิ่งนี้หมายความอย่างไรสำหรับผู้ใช้
สำหรับผู้ใช้ทั่วไป การระงับของ OpenAI ไม่ได้เปลี่ยนแปลงอะไร ข้อจำกัดนี้ใช้กับการทดลองภายในกับโมเดลที่มีประสิทธิภาพสูงซึ่งได้รับอนุญาตให้เข้าถึงระบบภายนอก แต่เหตุการณ์เหล่านี้แสดงให้เห็นว่าเมื่อเอเจนต์ AI มีความสามารถมากขึ้น ต้นทุนของความผิดพลาดก็สูงขึ้นเช่นกัน โมเดลไม่เพียงแต่จะให้คำตอบที่ผิดเท่านั้น แต่ยังสามารถดำเนินการที่ไม่พึงประสงค์ในระบบจริงได้อีกด้วย
หากคุณใช้เอเจนต์ AI ที่เข้าถึงอีเมล พื้นที่จัดเก็บข้อมูลบนคลาวด์ ที่เก็บข้อมูล หรือบริการอื่นๆ ของคุณ โปรดหลีกเลี่ยงการเชื่อมต่อบัญชีที่มีสิทธิ์ผู้ดูแลระบบ เว้นแต่จำเป็น นอกจากนี้ ควรตรวจสอบการเชื่อมต่ออย่างสม่ำเสมอ เพิกถอนคีย์ API ที่ไม่ได้ใช้ และเปิดใช้งานการยืนยันสำหรับการดำเนินการที่สามารถเปลี่ยนแปลงหรือลบข้อมูลได้
บทความที่น่าสนใจ:
- เอเจนต์ AI: อะไรอยู่เบื้องหลังกระแสความนิยมของ OpenClaw และข้อมูลส่วนตัวของคุณตกอยู่ในความเสี่ยงหรือไม่?
- การแทรกข้อความแจ้งเตือนคืออะไร และ AI สามารถถูกควบคุมได้อย่างไร?
- AI และการเรียนรู้ของเครื่องในด้านความปลอดภัยทางไซเบอร์กำลังกำหนดอนาคตอย่างไร
ผลิตภัณฑ์ที่แนะนำ:
