TCPのプログラムソースは
$QUALNET_HOME / transport / tcp
にインストールされておりますのでこちらを参照してください。

詳細につきましては、Programer's Guide の 4.3 章をご覧ください。

また、ソースの閲覧には Doxygen 等のフリーソフトウェア
でHTML化すると便利ですよ。
doxygen:
http://www.stack.nl/~dimitri/doxygen/index.html

なお、QualNetのTCPのコードはBSDのソースを移植したものなので、
本物のUNIXのTCPとほぼ同じ動作をします。
どのような改良をしようとしているかによって、改造するソースの
箇所は変わってくると思います。

BSDのTCP/IP実装については、ピアソン・エデュケーション社の
「詳解TCP/IP Vol.2 実装」 ISBN4-89471-495-7 \9,800
をご参考にしていただければ、ほぼ一対一でソースコードの対応
付けができると思います。