"Нельзя так. Представьте, что все на сайте стали круче и серых не прислали вовсе. Почему тогда нужно обязательно 40% из зеленой переносить в серую?" - проблема в том, что вы почему-то-считаете само понятие качества (и как следствие распределение по группам по качеству) абсолютным, в то время как качество фотографии по своей сути есть величина относительная - в 99,9% для каждой конкретной фотографии можно найти как лучшую по качеству, так и худшую по качеству...
Другими словами, никогда нельзя утверждать, что мол эта фотография однозначно на красную группу, а вот эта однозначно на зеленую безотносительно к другим фотографиям. Следовательно, распределение по группам по качеству возможно только внутри некого конкретного набора фотографий, в нашем случае - среди фотографий, присланных на тот или иной конкурс. И вполне естественной будет например такая ситуация, когда одна и та же фотография в одном конкурсе будет участвовать в красной группе (когда общий уровень качества фотографий, присланных на конкурс, низкий), а в другом конкурсе - в зеленой (когда общий уровень - высокий).