Для изучения работы сопроцессора воспользуйтесь windows-отладчиком OllyDebug. Если вам надо программировать сопроцессор в MS-DOS, помните что серьёзные комманды работают только в защищённом режиме. Поэтому программируйте на ассемблере в компиляторе DJGPP.