Обновите вашу Obs и проверьте, включено ли аппаратное ускорение браузера. Зайдите в настройки программы - расширенные - пролистайте вниз. Там будет галочка нужная. Кроме того, убедитесь, что у вас установлена последняя версия OBS и она работает в 64-битном режиме. Ссылка где скачать OBS.