まったくのゼロから作るのは と〜〜〜っても 大変だと思います。
ということで、
QualNetに備わっている既存のルーティングプロトコルを改造するのが良いかもしれません。
ゼロから作るにしても、既存のソースコードを読むだけでもかなり知識が増えますよ。

少なくとも、QualNetの作法以外に以下のものが作れるようにならないと。
A) 経路を観察する。
B) トラヒック量をモニタリングする。
C) トラヒック量がある条件を満たすと、経路を書き換える。
D) 経路情報をフラッディングする。

QualNetにおける経路情報の管理を理解すれば、
後は簡単に... はならないですね、
フラッディングとか丁寧にやると大変。

いずれにせよ、QualNet解説書「QualNet_Hacks」で予定されている、
第4章 パケットフォワーディングと経路制御(現在執筆中！)
が公開されれば、とても役に立ちそう...

同じく、公開済みの
第2章 イベント処理
はサラッと一度読むことをお勧めします。

実際のルーティングプロトコルはとても複雑です。
エラーチェックをあまりやらない、
パケットは途中で(無線のように)落ちない、
などの条件を付けたシンプルなものから作って進めれば、
たぶん出来ます。

頑張って下さい!!