恐らく各軸の回転の順番の問題だと思います
MV1SetRotationXYZ で設定する行列は MV1SetMatrix を使用すると以下のようになります
MV1SetRotationXYZ( ModelHandle, VGet( RotX, RotY, RotZ ) ) ;
↓
MV1SetMatrix( ModelHandle, MMult( MMult( MGetRotX( RotX ), MGetRotY( RotY ) ), MGetRotZ( RotZ ) ) ) ;
更に MV1SetPosition の効果も合わせる場合は以下のようになります
MV1SetPosition( ModelHandle, VGet( PosX, PosY, PosZ ) ) ;
MV1SetRotationXYZ( ModelHandle, VGet( RotX, RotY, RotZ ) ) ;
↓
MV1SetMatrix( ModelHandle, MMult( MMult( MMult( MGetRotX( RotX ), MGetRotY( RotY ) ), MGetRotZ( RotZ ) ), MGetTranslate( VGet( PosX, PosY, PosZ ) ) ) ) ;
そして、X軸回転 → Y軸回転 → Z軸回転の場合は
MV1SetMatrix( ModelHandle, MMult( MMult( MMult( MGetRotX( RotX ), MGetRotY( RotY ) ), MGetRotZ( RotZ ) ), MGetTranslate( VGet( PosX, PosY, PosZ ) ) ) ) ;
ですが、X軸回転 → Z軸回転 → Y軸回転の場合は
MV1SetMatrix( ModelHandle, MMult( MMult( MMult( MGetRotX( RotX ), MGetRotZ( RotZ ) ), MGetRotY( RotY ) ), MGetTranslate( VGet( PosX, PosY, PosZ ) ) ) ) ;
となり、Y軸回転 → X軸回転 → Z軸回転の場合は
MV1SetMatrix( ModelHandle, MMult( MMult( MMult( MGetRotY( RotY ), MGetRotX( RotX ) ), MGetRotZ( RotZ ) ), MGetTranslate( VGet( PosX, PosY, PosZ ) ) ) ) ;
となり、Y軸回転 → Z軸回転 → X軸回転の場合は
MV1SetMatrix( ModelHandle, MMult( MMult( MMult( MGetRotY( RotY ), MGetRotZ( RotZ ) ), MGetRotX( RotX ) ), MGetTranslate( VGet( PosX, PosY, PosZ ) ) ) ) ;
となり、Z軸回転 → X軸回転 → Y軸回転の場合は
MV1SetMatrix( ModelHandle, MMult( MMult( MMult( MGetRotZ( RotZ ), MGetRotX( RotX ) ), MGetRotY( RotY ) ), MGetTranslate( VGet( PosX, PosY, PosZ ) ) ) ) ;
となり、Z軸回転 → Y軸回転 → X軸回転の場合は
MV1SetMatrix( ModelHandle, MMult( MMult( MMult( MGetRotZ( RotZ ), MGetRotY( RotY ) ), MGetRotX( RotX ) ), MGetTranslate( VGet( PosX, PosY, PosZ ) ) ) ) ;
となります、X,Y,Z軸の回転の順番によって結果が大きく異なってきます
どれかの組み合わせでゼータ関数さんの意図する回転になると思いますので、よろしければお試しください m(_ _)m