اپل با استفاده از الگوریتم‌های مستقر در سمت گوشی کاربر، گوشی‌های آی‌فون را از نظر وجود عکس‌های دارای محتوای سوء استفاده کودکان کنترل می‌کند
مسائل مربوط به کودکان و سوء استفاده از آنها از خطوط قرمز بی‌گفتگوی قانونی در کشورهای غربی است. متیو گرین- یک متخصص امنیت- در توییتر گزارش داده که اپل در نظر دارد که الگوریتم‌هایی شناساگری در گوشی‌های آی‌فون بگنجاند که محتوای کتابخانه عکس‌های کاربران را از نظر وجود محتواهای سوء استفاده از کودکان، چک کنند.
توجه کنید که این کار در سمت کاربر، یعنی در همان گوشی‌اش صورت خواهد گرفت. در واقع الگوریتم‌های اپل با استفاده از یک سری به اصطلاح اثرانگشت، یک یک عکس‌ها را چک می‌کنند و اگر موارد زیادی از مطابقت پیدا شد، آن را برای مرور به کنترل‌کننده‌های انسانی گزارش می‌کنند. به علاوه به نظر می‌رسد در گام اول فقط آن عکس‌هایی که کاربر قصد ابری کردنشان را دارد، نخست اینگونه اسکن می‌شوند.
البته هنوز چیزی به صورت رسمی اعلام نشده.
متیو گرین که یک متخصص امنیت است در این مورد می‌گوید که البته الگوریتم‌های «هش» ، نتایج کاملا درست ارائه نمی‌کنند و موارد گزارش مثبت کاذب هم دارند.
و خطر بعد این است که اگر اپل بیاید و در گام اول برای گزارش محتوای سوء استفاده از کودکان، قضیه را به اطلاع دولت برساند، ممکن است زمانی هم برسد که دولت برای چیزهای دیگر، کار مشابهی را بخواهد جا بیندازد و روتین کند.
نکته جانبی دیگر این است که عکس‌های شما در آی‌کلاد با رمزنگاری دوسویه ذخیره نمی‌شوند. یعنی گرچه عکس‌ها به صورت رمزنگاری شده در آی‌کلاد ذخیره می‌شوند، اما اپل کلیدها را هم در اختیار دارد و می‌تواند رمزگشایی کند. پس دست کم از نظر تئوریک امکان دارد که اپل با درخواست مقامات قانونی، اطلاعات آی‌کلاد کاربر را ارائه کند. اما اگر رمزنگاری دو سویه وجود داشت، چنین چیزی ممکن نبود.
