99 views

โจรโลกไซเบอร์! เริ่มใช้ deepfake ในการล่อลวงบริษัทให้ส่งเงินให้

ยาวไปไม่อ่าน: นักต้มตุ๋นใช้เทคโนโลยี deepfake เลียนเสียงเจ้านายหลอกให้ CEO ของบริษัทพลังงานแห่งหนึ่งในอังกฤษโอนเงินไปกว่า 6.8 ล้านบาท

ช่วงนี้ดูเหมือนในทุกๆ ไม่กี่วันก็จะมีวีดีโอตัวอย่างของการทำ deepfake โผล่ขึ้นมาให้เห็นกัน หรือแม้กระทั่งมีการปล่อยแอปให้โหลดใช้ฟรี ซึ่งแอปสามารถสร้างวีดีโอหรือไฟล์เสียงตัดต่อได้อย่างแนบเนียนจนทำให้คนอื่นต้องหลงเชื่อ ซึ่งอ้างอิงจาก The Wall Street Journal เชื่อกันว่าจะมีการปลอมแปลงที่จะส่งผลกระทบในด้านการเงินการธนาคาร และ กฎหมายตามมา เนื่องจากการใช้เทคโนโลยี deepfake นี้

ทางสำนักพิมพ์รายงานว่าทาง CEO ของบริษัทพลังงานในอังกฤษถูกหลอกให้โอนเงิน 2 แสนยูโร (ประมาณ 6.8 ล้านบาท) ไปให้ผู้ผลิตในฮังการีเพราะว่าเขาเชื่อว่าเจ้านายของเขาเป็นคนสั่ง แต่ทางบริษัทประกันของบริษัทพลังงานแห่งนี้ชื่อ Euler Hermes Group SA ได้เผยกับทาง The Wall Street Journal ว่า

นักต้มตุ๋นที่มีเครื่องมือปัญญาประดิษฐ์ได้ปลอมแปลงเสียงของเจ้านายคนดังกล่าวเพื่อหลอกให้ CEO ดำเนินการจ่ายเงินไปภายใน 1 ชั่วโมง

“ซอฟต์แวร์สามารถเลียนเสียง และไม่ใช่แค่เสียง แต่ยังรวมไปถึงน้ำเสียง การเว้นวรรค และสำเนียงเยอรมันได้ด้วย” โฆษกของ Euler Hermes กล่าวใน The Washington Post เบอร์โทรถูกจับคู่เข้ากับอีเมลและ CEO ของบริษัทพลังงานแห่งนี้จึงทำตามที่ถูกสั่ง เงินสูญไปเลยตอนนี้เนื่องจากถูกย้ายไปยังบัญชีในฮังการีและเม็กซิโกแล้วกระจายไปทั่วโลก ตามรายงานของ The Washington Post

หลังจากที่มีการร้องขอจากทางนักต้มตุ๋นคนนี้มาเป็นครั้งที่สอง ทาง CEO ของบริษัทจึงโทรไปหาเจ้านายจริงๆ ของเขา และพบว่าเข้ากำลังพูดคุยกับเจ้านายตัวปลอมและตัวจริงไปพร้อมๆ กัน ซึ่งทำให้เขารู้สึกตัวว่ากำลังถูกปล้นอยู่ Euler Hermes ได้ปฏิเสธการเผยชื่อบริษัทเยอรมันแห่งนี้

นี่อาจจะไม่ใช่ครั้งแรกที่เรื่องแบบนี้เกิดขึ้น ทางสำนักพิมพ์ The Washington Post ได้เคยรายงานว่าบริษัทรักษาความปลอดภัยทางไซเบอร์ Symantec ได้กล่าวว่าเคยมีเรื่องแบบนี้เกิดขึ้นแล้ว 3 ครั้งที่ทางบริษัทถูกหลอกให้โอนเงินไปยังบัญชีของนักต้มตุ๋น

Symantec กล่าวกับ The Washington Post ว่าหนึ่งในสามกรณีดังกล่าว ถึงขั้นสูญเงินกว่าล้านดอลล่าร์

สถานการณ์เหล่านี้จึงทำให้เราตระหนักได้ว่ามิจฉาชีพสามารถใช้ปัญญาประดิษฐ์เป็นเครื่องมือได้ โดยเฉพาะการสร้างวีดีโอหรือไฟล์เสียง แม้ว่าจะไม่มีบริษัทใหญ่ๆ ที่มีความก้าวหน้าด้านปัญญาประดิษฐ์ใดในซิลิคอนวัลเล่ย์กำลังพัฒนาซอฟต์แวร์ deepfake เพื่อทำวีดีโอ แต่บางบริษัทก็กำลังพัฒนาเกี่ยวกับด้านเสียงอยู่

บริการ Duplex ของ Google ใช้ปัญญาประดิษฐ์ในการเลียนเสียงมนุษย์จริงๆ เพื่อที่มันจะได้ทำการโทรศัพท์แทนผู้ใช้ได้ และก็ยังมีบริษัทสตาร์ทอัพเล็กๆ ในจีน ที่กำลังให้บริการคล้ายๆ กันบนสมาร์ทโฟน และบางครั้งก็มีกฎการใช้งานที่ไม่ชัดเจนในด้านความโปร่งใสและการเก็บข้อมูลด้วย

ในขณะเดียวกันนักวิจัยที่บริษัทเทคโนโลยีและในสถาบันต่างก็พยายามพัฒนาซอฟต์แวร์ตรวจจับ deepfake แต่ก็มีนักวิจัยบางส่วนที่ทำการพัฒนา deepfakeให้สามารถสร้างวีดีโอหรือไฟล์เสียงได้โดยใช้ข้อมูลน้อยลง

พูดง่ายๆ ก็คือ deepfake มาแล้วนะครับ และพวกมันก็เป็นอันตรายด้วย เพราะฉะนั้นเราแค่ต้องการเครื่องมือที่จะช่วยแยกของจริงออกจากของปลอม

TheVerge