Что делать, если угрожают?

Во-первых, успокойтесь. Во-вторых, подумайте, что можно сделать. Есьь несколько вариантов. Если это парень, с которым вы в ссоре, вам надо помириться, чтоб эти фото удалить у него. Если нет, то пишите заявление в полицию. Если фото без лица, то не парьтесь. Берете его интимные фото или скачиваете похожего без лица и тоже угрожаете слить

Ой какие все умные. Да многие этим грешат. Что сразу морали читать?

Да и пусть сливают. Знаете, сколько таких фото в интернете? Постарайтесь зафиксировать угрозы - сделать запись разговора, сохранить переписку, чтобы он не смог её удалить. Ответственности за сам факт угроз (не сопряжённых с вымогательством) законодательством, к сожалению, не предусмотрено, если Вы в парашке живёте.

Угрожают опубликовать, а что требуют от вас ?

Скажите, что это искусственный интеллект, если все-таки сольет (и тут вопрос, надо ли в принципе об этом кому-то говорить. Только если кто-то из знакомых увидит, можно наверное сказать, а так вообще надо делать вид, что ничего нет). И главное - сами себя в этом убедите, тогда проще будет психологически перенести такое. Тогда этот парень будет выглядеть моральным уродом, который чтобы отомстить девушке, воспользовался ии и нагенерировал ее фоток. Если в полицию пойдете, то признаете, что фотки реальные.

Его можно привлечь к уголовной ответственности если он сольет в сеть твои интимки. Кроме того, если он угрожает, то значит что-то вымагает, а это тоже уголовная статья за вымогательство или принуждению к интиму например.
Тут нужно детально разбираться что он от вас хочет, что бы понять как с ним поступить.