こちらからダウンロードします。
管理者権限(これ大事)でコマンドプロンプトを起動します
ダウンロードしたフォルダでオプション(/install)を与えて実行します。
Ctrl2Caps /install
コマンドはあっという間に終わります。
内部的にはレジストリにキー入力と文字コードの対応表があるようで、そのフィルターのCapsLockの項目を書き換えているようです。
ちなみに、管理者権限(administrative rights)でないと、レジストリにアクセスできないのでエラーがでます。
Ctrl2cap must be run with administrative rights.