Вы в порядке.
Windows использует и реализует полную спецификацию RTF, которая позволяет записывать встроенные изображения в виде шестнадцатеричного кода или шестнадцатеричного кода, преобразованного в двоичный код.
На Mac, TextEdit будет читать RTF-файлы просто отлично, но не реализует всю спецификацию. В частности, TextEdit игнорирует потоки RTF, которые имеют встроенные изображения. Это чистая лень со стороны Apple. Вместо этого Apple любит использовать контейнеры RTFD, у которых есть изображение и ссылки на RTF-код к этому изображению. К сожалению, эти контейнеры не работают в Windows.
Что это значит? Нет никакой реальной совместимости RTF между TextEdit и Windows и наоборот. Это очень неприятная проблема, которая существует очень долгое время.
Я подал отчеты об ошибках с Apple, чтобы они запросили поддержку спецификации RTF. Версия 1.9 может быть загружена here.