ในอดีต การนำซอฟต์แวร์ใหม่เข้ามาใช้งานมักต้องใช้เวลาหลายเดือนในการทบทวน จัดซื้อ และขออนุมัติจากฝ่าย IT แต่วันนี้ เครื่องมือ AI สามารถเข้ามาอยู่ในองค์กรได้ภายในบ่ายเดียว ผ่านแท็บบนเบราว์เซอร์ ปลั๊กอิน หรือฟีเจอร์ที่ถูกเพิ่มเข้ามาแบบเงียบ ๆ ในแพลตฟอร์มเดิม ความรวดเร็วนี้เองที่ทำให้ ความเสี่ยงด้านความปลอดภัยของ AI กลายเป็นประเด็นระดับผู้บริหาร ไม่ใช่เพียงเรื่องเทคนิคเฉพาะทางอีกต่อไป เมื่อการนำไปใช้เกิดขึ้นเร็วกว่าการกำกับดูแล ข้อมูลสำคัญ ภาระผูกพันด้าน compliance และการตัดสินใจเชิงปฏิบัติการอาจถูกเปิดเผยหรือได้รับผลกระทบพร้อมกันได้
ความเสี่ยงเริ่มต้นจากตรงไหน
องค์กรส่วนใหญ่มักไม่ได้เผชิญปัญหาเพราะตัดสินใจเลือกใช้ AI อย่างเป็นทางการตั้งแต่ต้น ปัญหาที่ใหญ่กว่าคือการใช้งานแบบไม่ได้วางแผนในหลายแผนก เช่น ทีมการตลาดอาจนำข้อมูลแคมเปญไปใส่ในโมเดลสาธารณะ นักพัฒนาอาจใช้ coding assistant ที่เชื่อมต่อกับ repository ภายใน และพนักงานอาจนำผลลัพธ์จาก AI ไปใช้งานต่อโดยไม่ได้ตรวจสอบความถูกต้อง ในหลายกรณี ความเสี่ยงเริ่มจากทางลัดเพื่อเพิ่มประสิทธิภาพการทำงาน ก่อนจะขยายกลายเป็นปัญหาด้านการจัดการข้อมูล ช่องว่างของนโยบาย หรือปัญหาเรื่องความรับผิดชอบ
สิ่งนี้ทำให้ AI แตกต่างจากการเปลี่ยนแปลงทางเทคโนโลยีหลายครั้งก่อนหน้า ความท้าทายไม่ได้อยู่แค่ว่าโมเดลมีความปลอดภัยหรือไม่ แต่ยังรวมถึงวิธีที่ผู้คนใช้งาน ข้อมูลที่พวกเขาแบ่งปัน และกระบวนการทางธุรกิจใดบ้างที่เริ่มพึ่งพา AI หากคำถามเหล่านี้ไม่ได้รับการจัดการตั้งแต่เนิ่น ๆ องค์กรอาจสร้าง blind spot ในการตัดสินใจ การควบคุมความเป็นส่วนตัว และการตอบสนองต่อ incident ได้โดยไม่รู้ตัว ผลลัพธ์คือ attack surface ที่กว้างขึ้น ซึ่งเกิดจากพฤติกรรมของผู้ใช้พอ ๆ กับโครงสร้างพื้นฐาน
สิ่งที่องค์กรมักมองข้าม
โดยทั่วไปแล้ว ทีม Security มักให้ความสำคัญกับภัยคุกคามจากภายนอกก่อน แต่ในความเป็นจริง ความเสี่ยงจากภายในมักเป็นเส้นทางที่ทำให้องค์กรสูญเสียได้เร็วกว่า ข้อมูลที่ถูกป้อนเข้าไปในบริการ AI ที่ไม่มีการกำกับดูแล อาจรวมถึงข้อมูลลูกค้า ข้อมูลทางการเงิน source code ร่างเอกสารทางกฎหมาย หรือเอกสารกลยุทธ์ภายในองค์กร แม้เครื่องมือจะดูไม่มีพิษมีภัย แต่นโยบายการเก็บรักษาข้อมูลที่ไม่ชัดเจน แนวทางการนำข้อมูลไปฝึกโมเดลโดยบุคคลที่สาม หรือการควบคุมสิทธิ์เข้าถึงที่อ่อนแอ ล้วนสร้างผลกระทบที่แก้ไขย้อนหลังได้ยาก เมื่อข้อมูลสำคัญหลุดออกจากสภาพแวดล้อมที่ควบคุมได้แล้ว การกู้คืนหรือจำกัดความเสียหายจะซับซ้อนขึ้นมาก
อีกประเด็นหนึ่งคือความเชื่อมั่นต่อผลลัพธ์ที่ AI สร้างขึ้นมากเกินไป ระบบเหล่านี้สามารถสร้างคำตอบ บทสรุป และคำแนะนำที่ดูน่าเชื่อถือได้ แต่ความน่าเชื่อถือไม่ได้หมายความว่าถูกต้องเสมอไป หากพนักงานปฏิบัติต่อคำตอบจาก AI ราวกับเป็นข้อเท็จจริงที่ผ่านการตรวจสอบแล้ว องค์กรอาจนำข้อผิดพลาดเข้าไปสู่การดำเนินงาน การรายงานด้าน compliance การสื่อสารกับลูกค้า หรือการพัฒนาซอฟต์แวร์ได้ทันที ในอุตสาหกรรมที่มีข้อกำกับดูแลเข้มงวด ความเสี่ยงนี้สามารถขยายจากการสูญเสียด้านประสิทธิภาพไปสู่ปัญหาด้าน governance ได้อย่างรวดเร็ว
ลดการเปิดรับความเสี่ยงโดยไม่ทำให้ธุรกิจชะลอตัว
การจัดการความเสี่ยงจาก AI ไม่ได้หมายความว่าต้องปิดกั้นทุกเครื่องมือ สิ่งที่จำเป็นคือกติกาที่ชัดเจน การมองเห็นการใช้งาน และมาตรการควบคุมที่สอดคล้องกับการดำเนินธุรกิจจริง องค์กรที่เดินหน้าเรื่องนี้ได้ดีมักเริ่มจากการระบุว่า ขณะนี้มีการใช้ AI อยู่ตรงไหนบ้าง เกี่ยวข้องกับข้อมูลประเภทใด และ use case แบบใดที่มีผลกระทบสูงสุดต่อการปฏิบัติงานหรือข้อกำกับดูแล จากนั้น ผู้นำด้าน Security จึงสามารถแยกการใช้งานที่อนุญาตออกจากการใช้งานที่ยอมรับไม่ได้ และวางมาตรการควบคุมในจุดที่สำคัญที่สุด
- กำหนดนโยบายให้ชัดเจนว่าข้อมูลประเภทใดที่สามารถและไม่สามารถป้อนเข้าเครื่องมือ AI ได้
- ตรวจสอบฟีเจอร์ AI ที่ฝังอยู่แล้วในแอปพลิเคชันธุรกิจที่องค์กรใช้งานอยู่
- จำกัดสิทธิ์การเข้าถึงตามบทบาท ระดับความอ่อนไหวของข้อมูล และความจำเป็นทางธุรกิจ
- ตรวจสอบความถูกต้องของผลลัพธ์จาก AI ก่อนนำไปใช้ในการตัดสินใจหรือในงานที่สื่อสารออกสู่ลูกค้า
- รวม use case ของ AI เข้าไว้ในการประเมินความเสี่ยง การทบทวนด้าน compliance และการวางแผนตอบสนองต่อ incident
แนวทางนี้ช่วยให้องค์กรมอง AI เป็นความสามารถทางธุรกิจที่บริหารจัดการได้ ไม่ใช่การทดลองที่ไร้การควบคุม อีกทั้งยังช่วยวางรากฐานที่ดีกว่าสำหรับการประเมินผู้ให้บริการ โดยเฉพาะเมื่อองค์กรต้องเปรียบเทียบแนวทางการปกป้องข้อมูล การควบคุมสิทธิ์เข้าถึง การทำ logging และทางเลือกในการติดตั้งใช้งานของเทคโนโลยีหลายประเภท governance ที่แข็งแรงไม่ได้ทำให้นวัตกรรมช้าลง แต่ช่วยป้องกันไม่ให้นวัตกรรมสร้างภาระความรับผิดที่ซ่อนอยู่
เปลี่ยนความเสี่ยงจาก AI ให้เป็นการตัดสินใจด้านความปลอดภัย
การรับมือกับความเสี่ยงจาก AI ที่มีประสิทธิภาพที่สุดต้องอาศัยความร่วมมือข้ามสายงาน ทั้งทีม Security ฝ่ายกฎหมาย ฝ่าย compliance ฝ่ายปฏิบัติการ และผู้นำธุรกิจ ต่างมีบทบาทในการตัดสินใจว่า use case ใดที่ยอมรับได้ และต้องใช้มาตรการควบคุมใดบ้าง การสนทนานี้ควรเริ่มจากผลกระทบต่อธุรกิจเป็นหลัก ได้แก่ ข้อมูลใดที่มีความเสี่ยง การตัดสินใจใดที่พึ่งพา AI และจะเกิดอะไรขึ้นหากผลลัพธ์ผิดพลาดหรือข้อมูลถูกเปิดเผย เมื่อคำตอบของคำถามเหล่านี้ชัดเจน การเลือกเทคโนโลยีก็จะง่ายขึ้น และสามารถอธิบายเหตุผลรองรับได้ชัดเจนมากขึ้น
องค์กรที่กำลังประเมินมาตรการควบคุมสำหรับการใช้งาน AI สามารถทำงานร่วมกับ Terrabyte เพื่อประเมินข้อกำหนดด้านความปลอดภัย เปรียบเทียบเทคโนโลยี cybersecurity ที่เหมาะสม และให้การเลือกโซลูชันสอดคล้องกับเป้าหมายการดำเนินงานและความต้องการด้าน governance ในฐานะผู้จัดจำหน่ายด้าน cybersecurity และพันธมิตรด้านเทคโนโลยีที่องค์กรไว้วางใจ Terrabyte ช่วยให้องค์กรลดความไม่แน่นอน ขณะที่การนำ AI ไปใช้ขยายตัวมากขึ้นทั่วทั้งธุรกิจ