1)a3+ab+b2
2)y=2ab+a2+b2

3ab
3)2ab+yx+x2
4)a3+ab+b2​

Объяснение:

Если и считать всё в двоичной системе, то надо сначала все числа перевести в неё.

Перевод из шестнадцатеричной в двоичную- каждая шестнадцатеричная цифра заменяется на четыре двоичных, затем незначащие нули спереди- отбрасываются:

10₁₆ = 00010000₂ = 10000₂

Перевод из восьмеричной в двоичную- каждая восьмеричная цифра заменяется на три двоичных, затем незначащие нули спереди- отбрасываются:

10₈ = 001000₂ = 1000₂

Получаем в итоге пример:

10000₂ + 1000₂ + 10₂* 10000₂ = 10000₂ + 1000₂ + 100000₂ =

= 111000₂

Каждый из возможных символов должен использовать минимально возможное количество БИТ, следовательно :
25 букв + 10 цифр = 35 символов.
Для их хранения требуется узнать минимальное количество бит, (Степень цифры 2), поэтому:
( так как 2^5 < 35 < 2^6) получается, что использовать менее 6 бит нельзя. Таким образом, при 6 битах на символ, номер, содержащий 7 символов определяется:
7 * 6 = 42 бита.
Так как номер записывается минимально возможным количеством БАЙТ, то объём его в БИТАХ должен быть кратен 8 и в случае необходимости округляться в большую сторону.
Ближайшее число кратное 8 - это 48.
48 / 8 = 6 байт.
6 БАЙТ занимает 1 номер. 
Таким образом, 6 * 80 = 480 байт.

Сошлось или же я что-то упустил?