นอกจากนี้ นี่คือสิ่งที่ Facebook และ Zoom ทำในด้านที่มีปัญหานี้ Microsoft ประกาศเมื่อวันอังคารว่าจะลบเครื่องมือวิเคราะห์ใบหน้าบางตัวออกจากบริการ Azure AI

ตามมาตรฐาน Responsible AI Standard ใหม่ ความสามารถในการ “อนุมานสภาวะทางอารมณ์และคุณลักษณะของอัตลักษณ์ เช่น เพศ อายุ รอยยิ้ม ขนบนใบหน้า ผม และการแต่งหน้า”

โดยอัตโนมัติ ตามที่ Natasha Crampton หัวหน้าเจ้าหน้าที่ AI ที่รับผิดชอบของ Microsoft อธิบายไว้ในแถลงการณ์จะหยุดให้บริการ ผู้ใช้ใหม่ในสัปดาห์นี้ และจะเลิกใช้สำหรับผู้ใช้ปัจจุบันในปีนี้

การจดจำใบหน้าที่ขับเคลื่อนด้วย AI ได้รับการวิพากษ์วิจารณ์จากกลุ่มต่างๆ เช่น Electronic Frontier Foundation (EFF) เป็นเวลาหลายปี แม้ว่าการบังคับใช้กฎหมายมักจะเป็นเรื่องที่น่ากังวลมากที่สุด

แต่จากการศึกษาพบว่าเครื่องมือเหล่านี้ไม่แม่นยำในการระบุคุณลักษณะ เช่น เพศ โดยเฉพาะอย่างยิ่งในกลุ่มที่มีความหลากหลายและชนกลุ่มน้อย ตัวอย่างเช่น Media Lab ของ MIT พบว่า IBM, Face++ และการจดจำใบหน้าของ Microsoft จำแนกเพศของใบหน้าที่มีสีเข้มและใบหน้าผู้หญิงอย่างผิดสัดส่วน เครื่องมือที่มีประสิทธิภาพแย่ที่สุดจำแนกเพศของเพศหญิงที่มีผิวสีเข้มผิด 34.7 เปอร์เซ็นต์ในขณะที่เพศของใบหน้าชายผิวสีอ่อนถูกจัดประเภทผิดระหว่างเพียง 0 เปอร์เซ็นต์ถึง 0.8 เปอร์เซ็นต์ของเวลา

ยิ่งไปกว่านั้น ในการแถลงข่าว Microsoft ยอมรับว่าการแสดงออกทางสีหน้าและอารมณ์ไม่เป็นสากลในวัฒนธรรมต่างๆ ครอมป์ตันเขียนว่า “ผู้เชี่ยวชาญทั้งในและนอกบริษัทได้เน้นย้ำถึงการขาดความเห็นพ้องทางวิทยาศาสตร์เกี่ยวกับคำจำกัดความของ ‘อารมณ์’ ความท้าทายในการอนุมานโดยทั่วไปในกรณีการใช้งาน ภูมิภาค และข้อมูลประชากร

และความกังวลเกี่ยวกับความเป็นส่วนตัวที่เพิ่มขึ้นเกี่ยวกับความสามารถประเภทนี้ ” ทั้งหมดนี้เป็นส่วนหนึ่งของ Responsible AI Standard V2 ของ Microsoft ซึ่งเพิ่งเผยแพร่สู่สาธารณะ เอกสารนี้เป็นความพยายามในการกำหนดหลักการชี้นำ (จัดกลุ่มภายใต้ความรับผิดชอบ ความโปร่งใส ความยุติธรรม ความน่าเชื่อถือและความปลอดภัย ความเป็นส่วนตัวและความปลอดภัย และการรวม) สำหรับทีมพัฒนาผลิตภัณฑ์ของตน โดยตระหนักว่ากฎหมายและบรรทัดฐานของสังคมไม่สอดคล้องกับ ความเสี่ยงและความท้าทายที่ไม่เหมือนใครที่ปัญญาประดิษฐ์ก่อให้เกิด (ในขณะเดียวกัน สหภาพยุโรปซึ่งโดยทั่วไปแล้วจะเน้นหนัก ดูเหมือนว่าจะเป็นกลุ่มแรกที่นำกฎระเบียบที่เข้มงวดมาใช้ในการใช้ AI ในการตั้งค่าที่หลากหลาย)

แน่นอนว่า Microsoft ไม่ใช่บริษัทเดียวที่ถูกวิพากษ์วิจารณ์เรื่องโปรแกรมจดจำใบหน้า (และไม่ได้ให้บริการการจดจำใบหน้าแก่หน่วยงานบังคับใช้กฎหมายในขณะนี้) Facebook สิ้นสุดฟีเจอร์การจดจำใบหน้าที่จะจดจำและแนะนำให้เพื่อน “แท็ก” ในรูปภาพของคุณเมื่อปลายปีที่แล้วหลังจากใช้งานมานานกว่าทศวรรษ ค่าปรับหนักสองค่าและข้อวิพากษ์วิจารณ์มากมาย Zoom ยังถูกวิพากษ์วิจารณ์ในขณะนี้สำหรับฟีเจอร์การรับรู้อารมณ์และการมีส่วนร่วมที่ขับเคลื่อนโดย AI กลุ่มสิทธิมนุษยชนมากกว่า 25 กลุ่มลงนามในจดหมายเมื่อเดือนที่แล้วเรียกร้องให้ Zoom ดึงคุณลักษณะดังกล่าวออก

เนื่องจากเป็นกลุ่มที่บิดเบือน เลือกปฏิบัติ และหลอกลวง ตามเอกสารช่วยเหลือของ Zoom Zoom IQ for Sales จะติดตามเมตริกเช่น “อัตราส่วนการพูดคุยและการฟัง” “ความเร็วในการพูด” “คำที่เติม” “การอ่านที่ยาวที่สุด” “ความอดทน” “คำถามที่น่าดึงดูดใจ” และเสนอความรู้สึกและการมีส่วนร่วม การวิเคราะห์สำหรับผู้โทรแต่ละคน Zoom ไม่ตอบสนองต่อคำร้องขอความคิดเห็นจาก PopSci และไม่ได้ตอบจดหมายดังกล่าวต่อสาธารณะ

สำหรับ Microsoft สิ่งสำคัญที่ควรทราบคือเครื่องมือจดจำใบหน้าจะไม่หายไปทั้งหมด โดยจะยังคงให้บริการแก่บริษัทต่างๆ เช่น Uber ที่ต้องการทำสิ่งต่างๆ เช่น ตรวจสอบว่าผู้ที่สมัครใช้บริการมีบัตรประจำตัวที่ถูกต้อง อย่างไรก็ตาม กำลังใช้บทเรียนที่ได้เรียนรู้เกี่ยวกับการใช้ “การควบคุมการใช้งานที่เหมาะสม” ด้วย Custom Neural Voice (ซึ่งช่วยให้สามารถสร้างเสียงสังเคราะห์ที่ฟังดูใกล้เคียงกับต้นฉบับ) เพื่อให้แน่ใจว่าจะไม่ถูกละเมิด มีแผนจำกัดการใช้งานสำหรับลูกค้าและคู่ค้าที่มีการจัดการ จำกัดกรณีการใช้งานที่อนุญาตให้แคบลงเป็น “กรณีที่กำหนดไว้ล่วงหน้าที่ยอมรับได้” และใช้ประโยชน์จากการควบคุมทางเทคนิคเพื่อให้ทุกอย่างอยู่เหนือบอร์ด

สนับสนุนโดย.    ufabet