> visualstudioでソースコードを改変し、実行した場合のdbファイルの作成方法
既存のStatistics Database出力項目ではなく、新規に出力項目を追加したいという事であればややこしいです。
残念ながらこの部分に関するpdfドキュメントがないのです。
大まかな流れとして、./addons/db/src/にあるソースコードをじっくり調べて追加する流れになります。

どのテーブルに出力したいのか決める(新規テーブル追加は試したことがないです)。
テーブルの一覧はQualNet-7.4-StatisticsDatabase-UsersGuide.pdfに書いてあります。
テーブルを決定したらそのテーブルを初期化しているところを探す。
出力したい情報のカラム名と属性を決める。
初期化している部分でカラムの追加を行う。
出力したい場所にデータ出力部分を追加する。

で良いはずです。
GUIから起動する場合は、GUIの変更も忘れずに。
./gui/settings/protocol_models/statistics_database.prt
です。

PHYレイヤに追加する場合の例を投稿したいのですが、ちょっと時間下さい。


> 改変したプロジェクトをvisualstudio上ではなくGUIでのQualnetで実行する方法
これはVisualStudioで作成したqualnet.exeをGUIから使う方法ですか?
いくつかの方法があります。

一つは作成したqualnet.exeをインストールしたqualnetの./binに入っているqualnet.exeと置き換える。
つまりファイルを自分でコピーする。毎回コピーしなければならない。

./gui/settingsにあるexec.xmlを書き換える。
必ず編集前のexec.xmlをバックアップしておくこと。
以下の部分があるので書き換える。
<command id='local_normal' type='local' name='Normal' win_command='qualnet.exe' unix_command='qualnet'>
<![CDATA[
{$PRODUCT_HOME}/bin/{$SIM_EXEC} {$CONFIG_FILE} -np {$NUM_PROCESSORS} {$INTERACTIVE_OPTIONS} -with-snt-gui -friendly {$SIMULATION_MODE}
]]>
</command>

{$PRODUCT_HOME}/bin/{$SIM_EXEC} の部分を動かしたいqualnet.exeのfullpathに書き換える。
例えば、D:/hiro/QualNet/qualnet-7.4/bin/qualnet.exe とか。

最後にVisualStudioが作成するqualnet.exeの出力ディレクトリを書き換える。
インストールしたqualnetの./binにする。
VisualStudioでQualNetのソリューションを開く。
ソリューションエクスプローラーでqualnetを選択(クリック)する。
プロパティを開く。
構成プロパティの全般に出力ディレクトリがあるので、書き換える。

好きな方法で試してみて下さい。