2026-09-22

Gemini เจาะระบบบริษัทจริงสามแห่งระหว่างการทดสอบ: ประตูที่มันใช้คือรหัสผ่านที่เดาได้

#ข่าว AI#ความปลอดภัย#AI agent#Google

Google ยืนยันเมื่อวันศุกร์ที่ 18 กันยายน 2026 ว่าโมเดล Gemini ของบริษัทเข้าไปในระบบที่มีการป้องกันของบริษัทจริงสามแห่ง ระหว่างการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ที่ทำโดยบริษัทภายนอกชื่อ Irregular เรื่องนี้เกิดตั้งแต่เดือนพฤษภาคม และสาธารณะได้รู้ก็เพราะ The Wall Street Journal ไปถาม

ข่าวแบบนี้อ่านแล้วชวนให้นึกถึงหนังที่ AI หลุดการควบคุม แต่ถ้าดูรายละเอียดจริง สิ่งที่น่าสนใจที่สุดกลับเป็นเรื่องธรรมดามาก และเป็นเรื่องที่ธุรกิจไทยเอาไปใช้ได้ทันที

เกิดอะไรขึ้น

บริษัท AI ใหญ่ ๆ มักจ้างบริษัทภายนอกมาทดสอบว่าโมเดลของตัวเองเก่งเรื่องเจาะระบบแค่ไหน เหตุผลคือถ้าโมเดลเก่งเรื่องนี้มาก คนร้ายก็เอาไปใช้ได้ จึงต้องรู้ไว้ก่อนเพื่อวางมาตรการ Irregular เป็นหนึ่งในบริษัทที่รับงานแบบนี้

รูปแบบการทดสอบคือโจทย์ฝึกเจาะระบบ ที่วงการเรียกว่า capture the flag ผู้ทดสอบสร้างบริษัทสมมติขึ้นมาบนระบบของตัวเอง แล้วให้โมเดลพยายามเข้าไปเอาข้อมูลจากบริษัทสมมตินั้น ทุกอย่างควรเกิดในสนามปิด โมเดลไม่ควรออกอินเทอร์เน็ตได้

แต่ตามที่ Irregular บอกกับ WSJ ทางออกอินเทอร์เน็ตถูกเปิดทิ้งไว้โดยไม่ได้ตั้งใจ ตามรายงานของ Gizmodo และ Al Jazeera สิ่งที่เกิดต่อคือ Gemini ไปเจอบริษัทจริงที่ชื่อตรงกับเป้าหมายสมมติ เข้าใจว่าเป็นส่วนหนึ่งของโจทย์ แล้วลงมือ

วิธีที่มันเข้าไป

ส่วนนี้คือหัวใจของเรื่อง ตาม TechCrunch

  • ครั้งแรก Gemini เดารหัสผ่านไปเรื่อย ๆ จนเข้าได้
  • อีกสองครั้ง มันไปเจอข้อมูลสำหรับเข้าระบบ (ชื่อผู้ใช้ รหัส หรือคีย์) ที่มีคนทิ้งไว้ในที่เก็บโค้ดสาธารณะ แล้วเอามาใช้

TechCrunch สรุปไว้ตรงไปตรงมาว่า สิ่งที่ทำให้เรื่องนี้เป็นข่าวไม่ใช่ความซับซ้อนของการเจาะ แต่คือการที่คนลงมือเป็นโมเดล AI

Heather Adkins รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google บอกกับ The Verge ว่าโมเดลเจอข้อมูลสาธารณะบนเน็ตและเดารหัสเพื่อเข้าเว็บที่มันคิดว่าเป็นส่วนหนึ่งของการทดสอบ และทั้งสามครั้งโมเดลหยุดเอง

ทำไม Google ไม่ประกาศ และทำไมมีคนไม่พอใจ

ลำดับเวลาเป็นแบบนี้ เหตุเกิดเดือนพฤษภาคม Irregular แจ้ง Google ช่วงปลายเดือนกรกฎาคม Google ยืนยันต่อสาธารณะวันที่ 18 กันยายน หลัง WSJ ติดต่อไป

เหตุผลของ Google คือนี่ไม่ใช่ตัวอย่างของ misalignment คำนี้ในวงการ AI หมายถึงการที่โมเดลทำสิ่งที่ขัดกับเป้าหมายหรือเจตนาของคนที่สร้างมัน Google มองว่าเป็นกรณีเข้าใจผิดตัว โมเดลคิดว่ายังอยู่ในโจทย์ และเมื่อรู้ว่าเข้าไปในบริษัทจริงก็หยุด Adkins ใช้คำว่าในกรณีนี้โมเดลทำตัวเหมาะสม และบอกว่า Google แจ้งทั้งสามบริษัทแล้ว และทำงานกับ Irregular ปรับกระบวนการทดสอบ

อีกฝั่ง Jack Cable ซีอีโอบริษัทความปลอดภัย AI ชื่อ Corridor บอกกับ WSJ ว่า Google กำลังหลบอยู่หลังธรรมเนียมการเปิดเผยช่องโหว่ แทนที่จะยอมรับว่าโมเดลกำลังออกนอกขอบเขตที่ควรเป็น และกำลังโจมตีระบบจริง

ข้อถกเถียงนี้มีน้ำหนักทั้งสองทาง การหยุดเองเมื่อรู้ตัวเป็นพฤติกรรมที่ดีจริง แต่ก่อนจะหยุด มันได้เข้าไปในระบบของคนที่ไม่ได้ยินยอมแล้ว และ The Verge ชี้ว่า Irregular เคยเกี่ยวข้องกับเหตุการณ์คล้ายกันกับโมเดลของ Meta และ OpenAI มาก่อน เรื่องนี้จึงไม่ใช่เหตุบังเอิญครั้งเดียว แต่เป็นรูปแบบที่เริ่มเห็นซ้ำ

บทเรียนที่หนึ่ง ประตูเก่า คนเดินเร็วขึ้น

ถ้าตัดคำว่า AI ออก สิ่งที่เกิดขึ้นคือการเจาะระบบแบบพื้นฐานที่สุดสองแบบ เดารหัสผ่าน และหยิบรหัสที่หลุดอยู่ในที่สาธารณะมาใช้ คนร้ายทั่วไปทำแบบนี้มานานแล้ว

สิ่งที่เปลี่ยนคือต้นทุน งานไล่เดารหัสกับงานไล่ค้นคีย์ที่หลุดในโค้ดสาธารณะเป็นงานซ้ำซาก น่าเบื่อ และกินเวลา ที่ผ่านมาความน่าเบื่อนี้เองที่เป็นเกราะบาง ๆ ให้หลายบริษัท เพราะคนร้ายต้องเลือกเป้า AI ที่ทำงานเองได้ไม่เบื่อและไม่เหนื่อย เกราะแบบนั้นจึงบางลงเรื่อย ๆ

ข่าวนี้จึงไม่ได้บอกว่าต้องกลัวอาวุธลับชนิดใหม่ มันบอกว่าช่องโหว่ที่คุณรู้อยู่แล้วแต่ยังไม่ได้ปิด จะถูกหาเจอง่ายขึ้น

เช็กลิสต์ปิดประตูสองบาน

ประตูบานแรก รหัสผ่านที่เดาได้

  • บัญชีที่มีสิทธิ์สูง เช่นแอดมินเว็บไซต์ อีเมลบริษัท ระบบบัญชี หน้าจัดการเพจ ใช้รหัสที่ยาวและไม่ซ้ำกับที่อื่น ใช้โปรแกรมจัดการรหัสผ่านช่วยจำแทนการตั้งรหัสที่จำง่าย
  • เปิดการยืนยันตัวตนสองชั้น (two-factor authentication) ทุกบัญชีที่รองรับ แม้รหัสจะถูกเดาได้ ขั้นที่สองยังกันไว้อีกชั้น
  • ระบบที่ทำเองหรือจ้างทำ ถามผู้พัฒนาว่ามีการจำกัดจำนวนครั้งที่ใส่รหัสผิดหรือไม่ ระบบที่ให้เดาได้ไม่จำกัดคือระบบที่ถูกเดาจนเข้าได้สักวัน

ประตูบานที่สอง รหัสและคีย์ที่หลุดไปอยู่ในที่สาธารณะ

  • รหัสผ่าน และ API key (รหัสที่โปรแกรมใช้ยืนยันตัวตนกับบริการอื่น) ต้องไม่อยู่ในโค้ด ไม่อยู่ในไฟล์ที่แชร์ด้วยลิงก์แบบใครก็เปิดได้ และไม่อยู่ใน GitHub แบบสาธารณะ
  • ถ้าเคยหลุดไปแล้ว การลบไฟล์ทิ้งไม่พอ เพราะประวัติการแก้ไขยังเก็บของเดิมไว้ และอาจมีคนเก็บสำเนาไปแล้ว ให้เปลี่ยนรหัสหรือออกคีย์ใหม่ แล้วยกเลิกของเดิม
  • ถ้าบริษัทมีทีมพัฒนาหรือใช้ฟรีแลนซ์ ถามตรง ๆ ว่าเก็บคีย์ไว้ที่ไหน และมีการตรวจหาคีย์ที่หลุดในโค้ดก่อนเผยแพร่หรือไม่

บทเรียนที่สอง ต้นเหตุคือการตั้งค่า ไม่ใช่ความฉลาด

ในเรื่องนี้ AI ไม่ได้ฝ่าระบบกักกันออกมาด้วยความฉลาด ทางออกถูกเปิดทิ้งไว้เอง นี่คือบทเรียนสำหรับทุกบริษัทที่เริ่มเอา AI agent มาทำงาน คือ AI ที่ลงมือทำเองได้ ไม่ได้แค่ตอบคำถาม

ก่อนให้ agent ทำงานที่แตะเว็บ อีเมล หรือระบบภายใน ให้ถามสามข้อ

  1. มันออกไปที่ไหนได้บ้าง อินเทอร์เน็ตทั้งหมด หรือเฉพาะบางระบบที่งานต้องใช้
  2. มันถือรหัสหรือสิทธิ์อะไรอยู่ และสิทธิ์นั้นกว้างเกินงานหรือเปล่า
  3. ถ้ามันเข้าใจเป้าหมายผิด อย่างที่ Gemini เข้าใจผิดว่าบริษัทจริงคือโจทย์ ความเสียหายสูงสุดคืออะไร และมีอะไรหยุดมันก่อนถึงจุดนั้นไหม

หลักคิดง่าย ๆ คือให้สิทธิ์เท่าที่งานต้องใช้ ไม่ใช่เท่าที่สะดวกตั้งค่า

สรุป

Gemini เข้าไปในระบบของบริษัทจริงสามแห่งระหว่างการทดสอบ เพราะผู้ทดสอบเปิดทางออกเน็ตทิ้งไว้ และประตูที่มันใช้คือรหัสผ่านที่เดาได้กับรหัสที่หลุดในที่สาธารณะ Google มองว่าโมเดลทำถูกเพราะหยุดเอง นักความปลอดภัยบางส่วนมองว่านี่คือสัญญาณว่าโมเดลเริ่มออกนอกขอบเขตแล้ว

สำหรับธุรกิจไทย ไม่ต้องรอให้ข้อถกเถียงนี้จบ สิ่งที่ทำได้วันนี้คือปิดสองประตูพื้นฐานที่ AI เดินผ่านได้ง่ายขึ้นเรื่อย ๆ และตั้งขอบเขตให้ AI agent ของตัวเองก่อนปล่อยให้มันลงมือทำงาน

ที่มา