MESSAGE_RemoveHeaderで、受信したパケットを上位層へ引き渡す際
想定外のヘッダを剥がそうとしているようです。
ソースを詳しく読まないとわかりませんが、GenericとProposeを
混在したときのみおこることから、Genericが送信した信号をProposeが
受信してしまっている(若しくはその逆)と予想されます。
たとえば、
「Gereric端末がTraceProtocolType=TRACE_GENERICMACとして送出した
信号をPropose端末が受信してしまい、その後の処理において
TraceProtocolType=TRACE_PROPOSEMAC (仮)を期待して
MESSAGE_RemoveHeaderが呼ばれ、Assertionに引っかかっている」
というようなケースです。

件のAssertionの箇所ですが、
msg->headerProtocols[msg->numberOfHeaders-1] == traceProtocol
上記式が評価される際の辺々それぞれの値はどのようになっていますでしょうか？

同一CHでの利用を想定しているならば、これらのプロトコル間において
異なる方式のものは受信しないような仕掛けを加える必要があります。