суммируй количество бит после запятой у обоих чисел, оно и будет на выходе(после умножения) после запятой, сдвигай лишние и всё.
для перевода Х в формат 8.8 делай Х<<8. тоесть ПИ=3,14159*256=804=0х0324
для перевода Х в формат 4.12 делай Х<<12. тоесть ПИ=3,14159*4096=12868=0х3244
для перевода Х в формат 3.13 делай Х<<13. тоесть ПИ=3,14159*8192=25736=0х6488