create 5 perfect headline title about these articles “Once you send that photo, you can't take it back,” goes the warning to teenagers, often ignoring the reality that many teens send explicit images of themselves under duress, or without understanding the consequences.

A new online tool aims to give some control back to teens, or people who were once teens, to take down explicit images and videos of themselves from the internet.

Called Take It Down, the tool is operated by the National Center for Missing and Exploited Children, and funded in part by Meta Platforms, the owner of Facebook and Instagram.

The site lets anyone anonymously — and without uploading any actual images — create what is essentially a digital fingerprint of the image. This fingerprint (a unique set of numbers called a “hash”) then goes into a database and the tech companies that have agreed to participate in the project remove the images from their services.

Now, the caveats. The participating platforms are, as of Monday, Meta's Facebook and Instagram, Yubo, OnlyFans and Pornhub, owned by Mindgeek. If the image is on another site, or if it is sent in an encrypted platform such as WhatsApp, it will not be taken down.

In addition, if someone alters the original image — for instance, cropping it, adding an emoji or turning it into a meme — it becomes a new image and thus need a new hash. Images that are visually similar — such as the same photo with and without an Instagram filter, will have similar hashes, differing in just one character.
“Take It Down is made specifically for people who have an image that they have reason to believe is already out on the Web somewhere, or that it could be,” said Gavin Portnoy, a spokesman for the NCMEC. “You’re a teen and you’re dating someone and you share the image. Or somebody extorted you and they said, ‘if you don’t give me an image, or another image of you, I’m going to do X, Y, Z.’”

Portnoy said teens may feel more comfortable going to a site than to involve law enforcement, which wouldn't be anonymous, for one.

“To a teen who doesn’t want that level of involvement, they just want to know that it’s taken down, this is a big deal for them,” he said. NCMEC is seeing an increase in reports of online exploitation of children. The nonprofit's CyberTipline received 29.3 million reports in 2021, up 35% from 2020.

Meta, back when it was still Facebook, attempted to create a similar tool, although for adults, back in 2017. It didn't go over well because the site asked people to, basically, send their (encrypted) nudes to Facebook — not the most trusted company even in 2017. The company tested out the service in Australia for a brief period, but didn't expand it to other countries. In 2021, it helped launch tool for adults called StopNCII — or nonconsensual intimate images, aka “revenge porn.” That site is run by a U.K. nonprofit, the UK Revenge Porn Helpline, but anyone around the globe can use it.

But in that time, online sexual extortion and exploitation has only gotten worse, for children and teens as well as for adults. Many tech companies already use this hash system to share, take down and report to law enforcement images of child sexual abuse. Portnoy said the goal is to have more companies sign up.

“We never had anyone say no,” he said.

Twitter and TikTok so far have not committed to the project. Neither company immediately responded to a message for comment Sunday.

Antigone Davis, Meta's global head of safety, said Take It Down is one of many tools the company uses to address child abuse and exploitation on its platforms.

“In addition to supporting the development of this tool and having, reporting and blocking systems on our on our platform, we also do a number of different things to try to prevent these kinds of situations from happening in the first place. So, for example, we don’t allow unconnected adults to message minors," she said.

The site works with real as well as artificial intelligence-generated images and “deepfakes,” Davis said. Deepfakes are created to look like real, actual people saying or doing things they didn't actually do.

Meta's new tool allows teens to remove 'revealing' photos, videos from Facebook, Instagram
Meta has introduced a new tool for teenagers that will allow them to remove 'nude', 'partially nude', or 'sexually explicit' images from Instagram and Facebook that were uploaded in the past.
Meta's new tool is called "Take It Down" and is operated by the National Center for Missing and Exploited Children.

Take It Down is a free service that lets teens or their parents anonymously submit photos or videos they fear might be uploaded to the internet or that have already been distributed online.
Such photos can be submitted to a web-based tool that will convert the images into digital fingerprints known as hashes, which will be sent to NCMEC and shared with platforms. The social media sites will use hash-matching technology to find and block any attempts to upload the original images.
Apart from Facebook and Instagram, the other participating platforms are Yubo, OnlyFans and Pornhub, owned by Mindgeek.

Meta's new tool has been designed to combat the rising problem of ‘sextortion,’ where children are coerced or deceived into sharing intimate images with another person online, then threatened or blackmailed with the prospect of having those images published on the internet.

Some offenders are motivated to extract even more explicit images from the child while others are seeking money.

Take It Down hashes the images in the browser, so they don’t leave the device of the child or parent. If the extorter tries to upload the original images, the platform’s hash-matching technology will detect a match and send the newly uploaded image to a content moderator to review.
Meta said it will ingest new hashes multiple times a day, so it can be ready to block images very quickly.

Now, the caveats. If the image is on another site, or if it is sent in an encrypted platform such as WhatsApp, it will not be taken down.

In addition, if someone alters the original image, for instance, cropping it, adding an emoji, or turning it into a meme, it becomes a new image and thus needs a new hash. Images that are visually similar, such as the same photo with and without an Instagram filter, will have similar hashes, differing in just one character.

Meta, back when it was still Facebook, attempted to create a similar tool, although for adults, back in 2017. It didn't go over well because the site asked people to send their (encrypted) nudes to Facebook — not the most trusted company even in 2017. The company tested out the service in Australia for a brief period but didn't expand it to other countries.
In 2021, it helped launch a tool for adults called StopNCII — or nonconsensual intimate images, aka “revenge porn." That site is run by a UK nonprofit, the UK Revenge Porn Helpline, but anyone around the globe can use it.
"한 번 보낸 사진은 되돌릴 수 없다." 많은 청소년들이 강압에 못 이겨 또는 그 결과를 이해하지 못한 채 자신의 노골적인 이미지를 보내는 현실을 무시한 채 청소년들에게 던지는 경고입니다.새로운 온라인 도구는 청소년 또는 한때 청소년이었던 사람들이 인터넷에서 자신의 노골적인 이미지와 동영상을 삭제할 수 있는 통제권을 되찾아주는 것을 목표로 합니다.'테이크 잇 다운'이라고 불리는 이 도구는 국립 실종 및 착취 아동 센터에서 운영하며, 페이스북과 인스타그램의 소유주인 메타 플랫폼이 부분적으로 자금을 지원합니다.이 사이트에서는 누구나 익명으로, 그리고 실제 이미지를 업로드하지 않고도 이미지의 디지털 지문을 생성할 수 있습니다. 이 지문('해시'라고 하는 고유한 숫자 집합)은 데이터베이스에 저장되며, 프로젝트에 참여하기로 동의한 기술 회사는 해당 이미지를 서비스에서 삭제합니다.이제 주의할 점이 있습니다. 월요일 현재 참여 플랫폼은 메타의 페이스북과 인스타그램, 유보, 온리팬스, 마인드긱이 소유한 Pornhub입니다. 이미지가 다른 사이트에 있거나 WhatsApp과 같은 암호화된 플랫폼으로 전송된 경우, 해당 이미지는 삭제되지 않습니다.또한 누군가 원본 이미지를 자르거나 이모티콘을 추가하거나 밈으로 바꾸는 등 원본 이미지를 변경하면 새로운 이미지가 되므로 새로운 해시가 필요합니다. 인스타그램 필터를 적용한 사진과 적용하지 않은 사진 등 시각적으로 유사한 이미지의 경우, 한 글자만 다르면 비슷한 해시값을 갖게 됩니다."테이크 잇 다운은 이미 웹 어딘가에 퍼져 있거나 퍼질 수 있다고 믿을 만한 이유가 있는 이미지를 가진 사람들을 위해 특별히 만들어졌습니다."라고 NCMEC의 대변인인 개빈 포트노이는 말합니다. "청소년이 누군가와 데이트하면서 그 이미지를 공유했다고 가정해 보죠. 또는 누군가가 당신을 협박하여 '만약 당신이 당신의 이미지나 다른 이미지를 주지 않으면 X, Y, Z를 할 거야'라고 말했겠죠."포트노이는 십대들이 익명이 보장되는 법 집행 기관에 신고하는 것보다 사이트를 방문하는 것이 더 편하다고 느낄 수 있다고 말했습니다."그런 수준의 개입을 원하지 않는 청소년에게는 그저 사이트가 삭제되었다는 사실만 알고 싶어합니다."라고 그는 말했습니다. NCMEC는 온라인 아동 착취에 대한 신고가 증가하고 있습니다. 이 비영리 단체의 사이버팁라인에는 2021년에 2020년보다 35% 증가한 2,930만 건의 신고가 접수되었습니다.메타는 아직 Facebook이었을 때인 2017년에 성인용이지만 비슷한 도구를 만들려고 시도한 적이 있습니다. 2017년 당시에도 가장 신뢰받는 회사가 아니었던 Facebook에 (암호화된) 누드 사진을 보내달라고 요청하는 사이트였기 때문에 잘 진행되지 않았습니다. 이 회사는 호주에서 짧은 기간 동안 서비스를 테스트했지만 다른 국가로 확장하지 않았습니다. 2021년에는 '리벤지 포르노'라고도 불리는 비합의적인 친밀한 이미지, 즉 StopNCII라는 성인용 도구를 출시하는 데 도움을 주었습니다. 이 사이트는 영국의 비영리 단체인 영국 리벤지 포르노 헬프라인에서 운영하지만 전 세계 누구나 사용할 수 있습니다.그러나 그 동안 온라인 성착취와 착취는 성인뿐만 아니라 어린이와 청소년을 대상으로 더욱 심각해졌습니다. 이미 많은 기술 회사에서 이 해시 시스템을 사용하여 아동 성학대 이미지를 공유하고, 삭제하고, 법 집행 기관에 신고하고 있습니다. 포트노이는 더 많은 기업이 가입하도록 하는 것이 목표라고 말했습니다."우리는 누구도 거절하지 않았습니다."라고 그는 말했습니다.트위터와 틱톡은 지금까지 이 프로젝트에 참여하지 않았습니다. 두 회사 모두 일요일 논평 요청 메시지에 즉시 응답하지 않았습니다.메타의 글로벌 안전 책임자인 안티고네 데이비스는 테이크 잇 다운이 플랫폼에서 아동 학대와 착취 문제를 해결하기 위해 메타가 사용하는 많은 도구 중 하나라고 말했습니다."저희는 이 도구의 개발을 지원하고 플랫폼에 신고 및 차단 시스템을 갖추는 것 외에도 이러한 상황이 애초에 발생하지 않도록 여러 가지 노력을 기울이고 있습니다. 예를 들어, 저희는 연결되지 않은 성인이 미성년자에게 메시지를 보내는 것을 허용하지 않습니다."라고 그녀는 말합니다.이 사이트는 실제 이미지뿐만 아니라 인공지능이 생성한 이미지와 '딥페이크'도 사용한다고 데이비스는 말합니다. 딥페이크는 실제 사람이 실제로 하지 않은 말이나 행동을 하는 것처럼 보이도록 만들어집니다.Meta의 새로운 도구를 사용하면 청소년이 Facebook, Instagram에서 '노출이 심한' 사진, 동영상을 삭제할 수 있습니다.메타는 과거에 업로드된 '누드', '부분 누드' 또는 '성적으로 노골적인' 이미지를 인스타그램과 페이스북에서 삭제할 수 있는 청소년을 위한 새로운 도구를 출시했습니다.메타의 새로운 도구는 '테이크 잇 다운'이라는 이름으로 국립 실종 및 착취 아동 센터에서 운영합니다.테이크 잇 다운은 청소년이나 부모가 인터넷에 업로드될 우려가 있거나 이미 온라인에 배포된 사진이나 동영상을 익명으로 제출할 수 있는 무료 서비스입니다.이러한 사진을 웹 기반 도구에 제출하면 이미지가 해시로 알려진 디지털 지문으로 변환되어 NCMEC로 전송되고 플랫폼과 공유됩니다. 소셜 미디어 사이트는 해시 매칭 기술을 사용하여 모든 시도를 찾아 차단합니다. 