การใช้ปัญญาประดิษฐ์ (AI) ที่สามารถสร้างสรรค์ผลลัพธ์ใหม่ ๆ (generative AI) อย่างแพร่หลายในปัจจุบัน ก่อให้เกิดความกังวลเกี่ยวกับความเสี่ยงที่ผู้ไม่หวังดีหรือกลุ่มอันตรายอาจนำเทคโนโลยีนี้ไปใช้เพื่อล่วงละเมิดความปลอดภัยของเด็ก โดยในวันนี้ Microsoft และ Google ได้ร่วมกันประกาศคำมั่นสัญญาใหม่เกี่ยวกับการปกป้องความปลอดภัยของเด็ก สำหรับบริการปัญญาประดิษฐ์ที่เกี่ยวข้อง
บริษัทต่างๆ รวมถึง Microsoft และ Google ได้ร่วมมือกับสององค์กรในการกำหนดคำมั่นสัญญาใหม่ด้านความปลอดภัยของเด็ก องค์กรแรกคือ Thorn ซึ่งเป็นองค์กรไม่แสวงหาผลกำไรที่มุ่งปราบปรามการล่วงละเมิดทางเพศเด็ก ส่วนอีกองค์กรคือ All Tech Is Human ซึ่งก่อตั้งขึ้นเพื่อช่วยสร้าง "ระบบนิเวศเทคโนโลยีที่รับผิดชอบ"
โดยในบทความจากบล็อกของ Microsoft ประกาศว่า บริษัทจะพัฒนาโมเดลปัญญาประดิษฐ์ (AI) ที่สามารถสร้างสรรค์ผลลัพธ์ใหม่ ๆ (generative AI) โดยไม่ใช้ชุดข้อมูลที่มีเนื้อหาทางเพศหรือการแสวงหาผลประโยชน์จากเด็กในการฝึกสอน นอกจากนี้ บริษัทยังมุ่งมั่นที่จะช่วยปกป้องโมเดลเหล่านี้จากเนื้อหาประเภทดังกล่าว หลังจากเปิดตัวใช้งานอีกด้วย ซึ่งในโพสต์บล็อกยังมีการกล่าวเพิ่มเติมว่า :
ความมุ่งมั่นในวันนี้ถือเป็นก้าวสำคัญในการป้องกันการนำเทคโนโลยี AI ไปใช้ในทางที่ผิดเพื่อสร้างหรือเผยแพร่สื่อที่มีการล่วงละเมิดทางเพศเด็ก (AIG-CSAM) และรูปแบบอื่น ๆ ของการล่วงละเมิดทางเพศต่อเด็ก การดำเนินการร่วมกันนี้ตอกย้ำแนวทางของอุตสาหกรรมเทคโนโลยีในเรื่องความปลอดภัยของเด็ก ซึ่งแสดงให้เห็นถึงความมุ่งมั่นร่วมกันในการสร้างสรรค์นวัตกรรมที่มีจริยธรรมและความเป็นอยู่ที่ดีของสมาชิกที่เปราะบางที่สุดในสังคม
โพสต์ในบล็อกของ Google ในหัวข้อนี้ครอบคลุมเหตุผลเดียวกันกับ Microsoft ในแง่ของข้อผูกพันด้านความปลอดภัยของเด็กสำหรับบริการ AI ของตนเอง นอกจากนี้ ยังมีทีมงานที่ทุ่มเทเพื่อค้นหาเนื้อหาที่บ่งชี้ว่าเด็กอาจตกอยู่ในอันตราย นอกจากนี้ Google ยังกล่าวว่ากำลังพยายามค้นหาและลบเนื้อหาที่เกี่ยวข้องกับการล่วงละเมิดทางเพศและการแสวงหาผลประโยชน์จากเด็กอีกด้วย
สุดท้ายนี้ Google ได้ประกาศสนับสนุนร่างกฎหมายหลายฉบับในสภาคองเกรสแห่งสหรัฐอเมริกาที่เกี่ยวข้องกับการคุ้มครองเด็กจากการถูกทารุณกรรมและการแสวงหาผลประโยชน์
ที่มา neowin
