QualNetのソースディレクトリ$QUALNET_HOME/transport/tcpの下で"grep cwnd *.cpp"を実行すると、tcp.cpp, tcp_input.cpp, tcp_output.cpp,
tcp_subr.cpp, tcp_timer.cpp などが引っかかります。
congestion windowの処理はTCPのソースコードの中で何箇所かに分かれていますので、これらの情報を参考に見当をつけていただきたいと思います。
grepの結果を見る限り、cwndに関する処理の大半は、tcp_input.cpp中で行われているようです。

また、QualNetはBSD系UNIXのカーネルからTCP/IPプロトコルスタックを移植して使っています。株式会社ピアソンエデュケーション社の「詳解TCP/IP Vol.2 実装」(ISBN4-89471-495-7)は4.4 BSD-LiteリリースのTCP/IPプロトコルスタックを解説していますので、ご参考にしていただけると思います。