禁用快速编辑模式时，SetConsoleMode返回ERROR_INVALID_PARAMETER

问题描述

我正在尝试使用winapi在控制台中禁用快速编辑模式。 documentation说：

要启用此模式，请使用ENABLE_QUICK_EDIT_MODE | ENABLE_EXTENDED_FLAGS。要禁用此模式，请使用不带此标志的ENABLE_EXTENDED_FLAGS。

我希望这段代码能正常工作：

#include <Windows.h>
#include <iostream>

int main() {
    HANDLE console = CreateConsoleScreenBuffer(GENERIC_READ | GENERIC_WRITE,NULL,CONSOLE_TEXTMODE_BUFFER,NULL);
    SetConsoleActiveScreenBuffer(console);

    if (!SetConsoleMode(console,ENABLE_EXTENDED_FLAGS))
        std::cout << GetLastError() << std::endl;

    for (;;);

    return 0;
}

但是我仍然可以在控制台中进行选择，它会打印87的{​​{1}}。

我也尝试了this answer，但是得到了相同的结果。

我正在使用clang版本10.0.0

解决方法

SetConsoleMode的第一个参数是根据linked docs的“ 控制台输入缓冲区或控制台屏幕缓冲区”的句柄。

ENABLE_QUICK_EDIT_MODE是仅适用于输入句柄的标志集的一部分，但已发布代码中的console句柄是控制台屏幕缓冲区。

要设置或更改快速编辑模式，呼叫必须使用input buffer handle，通常使用GetStdHandle(STD_INPUT_HANDLE)或保留名称为CreateFile的{​​{1}}获得， works，即使重定向了标准输入。