Зависит от распределения цветов (может у тебя из 100 цветов 95 - синие, и только 5 приходится на красный и зеленый) . Но при равномерном распределении цветов - 3 бит на канал (получится по 8 градаций по каждому цвету, всего - 512 цветов) . Но так, как такой кодировки не существует (во всяком случае стандартной) , то всё равно придется использовать 4 бит на канал - 4096 цветов.