บทที่ 1 ภัยคุกคามใหม่ในยุค AI และผลกระทบเชิงปริมาณ

 ภัยคุกคามใหม่ในยุค AI และผลกระทบเชิงปริมาณ ที่เกิดจาก AI มีดังนี้

Deepfake: ภัยคุกคามที่เพิ่มขึ้นอย่างรวดเร็ว

เทคโนโลยี deepfake ได้พัฒนาไปสู่ระดับที่น่าวิตกอย่างมาก โดย งานวิจัยแสดงให้เห็นว่าเหตุการณ์ deepfake เพิ่มขึ้น 10 เท่าทั่วโลกจากปี 2022 ถึง 2023 ในภาคการเงิน 53% ของผู้เชี่ยวชาญถูกกำหนดเป้าหมายด้วยแผนการ deepfake และ 43% ตกเป็นเหยื่อ กรณีที่โดดเด่น ได้แก่ บริษัท Arup Engineering ที่สูญเสีย 25 ล้านดอลลาร์สหรัฐจากการประชุมวิดีโอที่ผู้เข้าร่วมทุกคนเป็น AI ที่สร้างขึ้น

เทคโนโลยีปัจจุบันสามารถสร้าง deepfake ที่น่าเชื่อได้ใน ระยะเวลาไม่ถึง 45 นาที ด้วยเพียงคอมพิวเตอร์ส่วนบุคคลและซอฟต์แวร์โอเพ่นซอร์ส การโคลนเสียงต้องการเพียงแค่ 3 วินาทีของเสียงต้นฉบับเพื่อให้ได้ความแม่นยำ 85% ขณะที่ Wav2Lip สามารถจับคู่ริมฝีปากแบบเรียลไทม์ได้ด้วยอัตราความพึงพอใจมากกว่า 90%

การโจมตีฟิชชิ่งที่ขับเคลื่อนโดย AI

การผสานรวมโมเดลภาษาขนาดใหญ่ในการโจมตีฟิชชิ่งได้ปฏิวัติวิธีการโจมตีทางสังคม การวิจัยจาก Harvard พบว่าอีเมลฟิชชิ่งที่สร้างโดย AI มีอัตราความสำเร็จ 60% ในการหลอกเหยื่อ กฎ "5/5" ของ IBM แสดงให้เห็นว่าใช้เวลาเพียง 5 นาทีและ 5 คำสั่งในการสร้างแคมเปญฟิชชิ่งที่มีประสิทธิภาพเทียบเท่ากับที่มนุษย์สร้างขึ้นใน 16 ชั่วโมง

สถิติที่น่าตกใจแสดงให้เห็น การเพิ่มขึ้น 4,151% ในปริมาณการโจมตีฟิชชิ่งทั้งหมดตั้งแต่ ChatGPT เปิดตัวในปี 2022 และการเพิ่มขึ้น 49% ในการโจมตีฟิชชิ่งที่ผ่านตัวกรองอีเมลได้

การล่วงละเมิดอัตโนมัติและอัลกอริทึมที่มีอคติ

การรังแกทางไซเบอร์อัตโนมัติได้กลายเป็นปัญหาเร่งด่วน โดยเฉพาะในสถาบันการศึกษา เหตุการณ์ที่โรงเรียนมัธยม Westfield นักเรียนชายวัยรุ่นสร้าง deepfake ลามกของเพื่อนร่วมชั้นหญิง และที่โรงเรียนมัธยม Pikesville ในแมริแลนด์ที่ผู้อำนวยการฝ่ายกีฬาสร้างเสียงปลอมของอาจารย์ใหญ่ที่มีเนื้อหาเหยียดเชื้อชาติ แสดงให้เห็นถึงความรุนแรงของปัญหานี้

ด้านอัลกอริทึมที่มีอคติ 62% ของบริษัทสูญเสียรายได้เนื่องจากการตัดสินใจของ AI ที่มีอคติ การศึกษาพบว่าอคติทางเชื้อชาติในอัลกอริทึมทางการเงินอาจทำให้เกิดการสูญเสีย GDP ของสหรัฐอเมริกา 1.5 ล้านล้านดอลลาร์