Это знает только разработчик драйвера и обычно такая информация не раскрывается.
1. Можно предложить попробовать следующий способ - поставить монитор реестра, а потом менять в контрольной панели и смотреть, что меняется в реестре. После чего попробовать делать также, но после изменения надо как-то "пнуть" видеодрайвер - например, пару раз сменить частоту развертки. Если же операция требует перезагрузки даже в штатной панели - тогда просто вызвать перезагрузку. Но такой способ не всегда срабатывает.
2. Второй способ для более "продвинутых" - "сесть" на API DeviceIOControl (как у Рихтера, например, описано) и отследить какие сообщения контрольная панель шлет в драйвер - ну а потом воспроизвести их. Если же драйвер использует что-то нестандартное (свою функцию посылки сообщений, например), то и этот трюк не сработает.
3. Третий вариант - написать в NVidia и спросить - как вы это делаете
- а вдруг поделятся.