Głównym problemem jest to, że OBS renderuje każdą klatkę w pamięci VRAM GPU, a przeniesienie jej z powrotem do pamięci RAM systemu, aby można było ją odczytać, jest raczej nieosiągalne z punktu działania bota
Lepsza opcja to program, który mógłby pobierać dane wyjściowe FLV z OBS, które są zapisywane na dysku [ jeśli to bot to w pamięci, cache] do odczytu podczas nagrywania i analizowania.
Z racji, że OBS nie ma funkcji zrzutu ekranu trudno bedzie to odczytać szczególnie w zakresie 1-frame, ale powinieneś być w stanie czytać w strumieniu FLV, więc można by poszukać czegoś w kontekście przetwarzania strumieniowego.
Sprawdź wykorzystanie programu do obrabiania grafiki stosowanym dla OBS
https://imagemagick.org/index.php on ma otwarty kod implementacji, może coś Ci to da
https://www.vbforums.com/showthread.php?645563-vb2010-get-pixel-color-of-hidden-window