گوگل یک پدر را به اشتباه به آزار فرزندش متهم کرد

پدری به ظاهر نگران به نام مارک از سانفرانسیسکوی آمریکا، نگران تورم ناحیه تناسلی فرزندش بود و از آن قسمت عکس گرفت و برای دکتر فرستاد. گوگل به اشتباه این تصویر را کودک آزاری دانسته و تمامی حساب های این فرد را بست و حتی پای پلیس را نیز در این مورد باز کرد.

دیروز خبری منتشر شد مبنی بر اینکه مردی که تنها نامش منتشر شده است (مارک) از قسمت داخلی ران پسرش (ناحیه تناسلی) عکس گرفت تا برای یک مشکل پزشکی به پزشکش بفرستد. او احساس کرد قسمتی از بدن پسرش متورم و ملتهب است و برای اینکه مطمئن شود مشکلی وجود دارد یا نه، از آن قسمت عکس گرفت و برای دکتر فرستاد. دکتر تصویر را می بیند و حتی نسخه ای برای درمان می نویسد.

اما داستان زمانی آغاز شد که آن تصویر در فضای ابری آپلود شد. به محض این که این اتفاق افتاد، گوگل این تصویر را به عنوان کودک آزاری شناسایی کرد و گزارشی را به مرکز ملی کودکان گمشده و مورد استثمار فرستاد. همین امر باعث شد پلیس چشمان خود را به روی پرونده باز کند.

دو روز پس از آپلود این تصویر در فضای ابری، گوگل حساب این شخص را مسدود کرد. به طور کلی، هر حساب Google به نام مارک مسدود شد، از جمله سرویس محلی Google WiFi. طبق گزارش مجله تایمز، ظاهراً گوگل به این دلیل حتی به مارک پیامی ارسال کرده و به او گفته است که تصویر آپلود شده “محتوای مضر” در نظر گرفته شده است و بنابراین نقض شدید خط‌مشی گوگل در این زمینه است و ممکن است غیرقانونی باشد. مارک بعداً متوجه می شود که گوگل گزارشی در مورد این کار به مرکز ملی کودکان گمشده و استثمار شده ارسال کرده است و اداره پلیس سانفرانسیسکو نیز در حال پیگیری این پرونده است.

اگرچه پدر این کودک پس از تحقیقات تبرئه شد، اما گوگل تسلیم نشد و حساب های کاربری او را مسدود کرد. یکی از سخنگویان این شرکت، کریستا مالدن، در این رابطه گفت: «ما در هنگام شناسایی سوء استفاده جنسی از کودکان از قوانین ایالات متحده پیروی می کنیم و از ترکیبی از فناوری تطبیق هش و هوش مصنوعی برای شناسایی و حذف آن از پلتفرم خود استفاده می کنیم.

پدر گوگل

دانیل کوهن گیلمور، کارمند ارشد اتحادیه آزادی های مدنی آمریکا (ACLU) در مورد این اقدام گوگل گفت:

این شرکت های بزرگ به حجم زیادی از داده ها و اطلاعات شخصی در مورد زندگی مردم دسترسی دارند، اما هنوز درک درستی از شرایط زندگی واقعی مصرف کنندگان ندارند. چیزهای زیادی وجود دارد که حقایق زندگی ما را تشکیل می دهد، اما این شرکت های بزرگ آن را قانونی نمی دانند.

گیلمور همچنین افزود:

نه اینکه بگوییم این سیستم ها قادر به تشخیص کودک آزاری نیستند، منظور من این است که گاهی اوقات قضاوت آنها به افراد مثبت کاذب می دهد و زندگی آنها می تواند توسط ماشین ها کاملاً زیر و رو شود. افرادی که تحت تأثیر این رویدادها قرار می گیرند ممکن است تصمیمات بدی بگیرند زیرا دلیلی برای بهبود وضعیت ندارند.

البته این اتفاق در فوریه 2021 رخ داد. زمانی که هنوز بسیاری از مراکز درمانی به دلیل شیوع ویروس کرونا بسته بودند و خدمات به صورت آنلاین به مردم ارائه می شد. عکسی که مارک ثبت می کند به درخواست پرستار دکتر است. با این حال، گوگل پدر کودک را مظنون به آپلود این تصویر معرفی کرد و حتی پس از گزارش پلیس، حساب های کاربری او را رفع انسداد نکرد.

گوگل ظاهراً طبق قانون فدرال موظف است این سوء استفاده های احتمالی را به سیستم گزارش دهد CyberTipLine گزارش به مرکز ملی کودکان گمشده و استثمار شده. گوگل در سال گذشته 621583 مورد از این دست را به این سامانه گزارش کرده است که از این میان 4260 مورد به مقامات این مرکز ارسال شده است که به گفته مجله تایمز، پرونده مارک یکی از آنهاست.

همه این پیشرفت ها نشان می دهد که هنوز نمی توان به هوش مصنوعی برای تشخیص موارد مختلف اعتماد کرد.

منبع: PhoneArena

نمایش بیشتر

مشاور سئو و طراحی سایت

سلام امید دندان نما هستم مشاور بازاریابی و متخصص طراحی سایت و سئو که در سال 81 وارد دنیای برنامه نویسی شدم و از سال 1386 وارد دنیای بازاریابی و مدرک لیسانس ارتباطات از روی علاقه رفتم گرفتم

دیدگاهتان را بنویسید

دکمه بازگشت به بالا