RTI Connextは、通信効率および転送層(主にUDPv4)の制限からTopic sizeが64KiB弱(*1)を超えると自動的にTopicを分割して送信する様に作成されています。しかしながら、この分割送信処理については、最適化された処理を行っているわけではありません。
また、reliable 通信での送信失敗時に必要となる再送コスト(*2)を考えると、Topic sizeを大きくすることはお勧めできません。
以上のことと、RTPSプロトコルにおけるオーバーヘッド分を考え、Topic sizeが63KiBを超えるようであればアプリケーションレベルでTopicを分割し、63KiB以下に分割して送信する様にしてください。