Данная ошибка может возникнуть как при попытке открытия программы в системе так и непосредственно в браузере при открытие ресурсоёмких сайтов, которые требуют большее количество оперативной памяти, нежели у вас сейчас доступно...

Хотите узнать с чем связана проблема "Out of video memory...", узнать в каких случаях она выскакивает и как это исправить? Вам придется прочитать эту статью :)