実際のパケットの流れによるrttの値ではなくて、
内部で管理しているRTTの値のことかな。

QualNet 3.xではなく、QualNet 4.0でよければ、
./libraries/developer/src/transport_tcp_var.h で定義してある、

int t_rtt; // round trip time

が見たい?

実際に更新しているのは、
./libraries/developer/src/transport_tcp_timer.cpp にある、関数 tcp_slowtimo の中です。

とにかく推移を見たいのであれば、*.configで TCP-TRACE DEBUG と指定します。
そうすると、膨大な量のtcptrace.outが生成されます。
その中に t_rtt の値も出力されていますから、それを見るのが手っ取り早いかも。