เกิดอะไรขึ้น
หน่วยงานคุ้มครองข้อมูลส่วนบุคคลของเนเธอร์แลนด์ (Dutch Data Protection Authority) ปรับ Uber 825 ล้านยูโร หรือราว 966 ล้านดอลลาร์ ซึ่งเป็นค่าปรับใหญ่เป็นอันดับสองภายใต้ GDPR จากการตรวจสอบข้อร้องเรียนว่า Uber ใช้กระบวนการอัตโนมัติปิดบัญชีคนขับโดยไม่มีคำเตือนเพียงพอหรือการกำกับดูแลโดยมนุษย์ Monique Verdier รองประธานหน่วยงานกล่าวว่าบริษัททำผิดร้ายแรง และระบุว่าคอมพิวเตอร์ไม่ควรตัดสินใจด้วยตนเองในประเด็นที่มีผลรุนแรง Uber ระบุว่าส่วนใหญ่เป็นการระงับชั่วคราว ไม่มีการปิดถาวรโดยไม่มีมนุษย์ตรวจสอบ และคนขับสามารถอุทธรณ์ได้ แต่หน่วยงานระบุว่าบางคนถูกปิดถาวรโดยไม่มีมนุษย์ตรวจสอบ ซึ่ง Uber ไม่เห็นด้วย Uber จะอุทธรณ์การตัดสินใจนี้
ทำไมเรื่องนี้สำคัญ
คดีนี้สะท้อนว่าองค์กรที่ใช้ระบบอัตโนมัติตัดสินใจเรื่องที่มีผลต่อรายได้และสถานะการทำงานของคนขับ ต้องออกแบบการแจ้งเตือน การทบทวนโดยมนุษย์ และความรับผิดชอบให้สอดคล้องกับ GDPR เพราะค่าปรับ 825 ล้านยูโรเป็นอันดับสองของยุโรป และยังมีประวัติการปรับ Uber ก่อนหน้า 290 ล้านยูโรและ 10 ล้านยูโรจากประเด็นข้อมูลส่วนบุคคลของคนขับ
ผลกระทบที่น่าจับตา
-
สำหรับธุรกิจ: บริษัทแพลตฟอร์มต้องทบทวนระบบอัตโนมัติ: ธุรกิจที่ใช้ระบบอัตโนมัติตัดสินใจระงับบัญชีหรือลงโทษผู้ใช้ ต้องเพิ่มการกำกับดูแลโดยมนุษย์ การแจ้งเตือน และกลไกอุทธรณ์ เพื่อลดความเสี่ยงด้านกฎหมายและค่าปรับ
-
สำหรับผู้อ่าน: คนขับและผู้ให้บริการ gig economy ได้รับผลกระทบ: คนขับและผู้ให้บริการใน gig economy ได้รับผลกระทบโดยตรงจากการถูกปิดบัญชีโดยอัตโนมัติ และมีช่องทางเรียกร้องค่าชดเชยผ่านคดีกลุ่มที่ Paul-Olivier Dehaye วางแผนดำเนินการ
-
สำหรับสังคม: มาตรฐานการกำกับระบบอัตโนมัติ: คำตัดสินและคำกล่าวของหน่วยงานกำกับสร้างบรรทัดฐานว่าระบบอัตโนมัติไม่ควรตัดสินใจเพียงลำพังในประเด็นที่มีผลรุนแรงต่อชีวิตการทำงาน
มุมมองของทันเทค
บทวิเคราะห์: ประเด็นนี้ไม่ใช่แค่ค่าปรับ แต่เป็นสัญญาณว่าระบบอัตโนมัติในแพลตฟอร์มแรงงานต้องถูกออกแบบให้มนุษย์มีบทบาทตรวจสอบ โดยเฉพาะเมื่อการตัดสินใจกระทบรายได้และสถานะการทำงาน การออกแบบระบบอัตโนมัติที่ตัดสินใจแทนมนุษย์โดยไม่มีกลไกทบทวนเพียงพอ กำลังกลายเป็นความเสี่ยงทางกฎหมายที่แพงมาก
สรุปในประโยคเดียว
หน่วยงานคุ้มครองข้อมูลของเนเธอร์แลนด์ปรับ Uber 825 ล้านยูโร หรือราว 966 ล้านดอลลาร์ จากการใช้ระบบอัตโนมัติระงับบัญชีคนขับโดยไม่มีมนุษย์ตรวจสอบเพียงพอ