Олег Константинович родился 15 ноября 1892 г. в Санкт-Петербурге — князь императорской крови. Отец — великий князь Константин Константинович, известный также как поэт «К. Р.». Мать — Елизавета Августа Мария Агнеса, вторая дочь принца Саксен-Альтенбургского, герцога Саксонского Морица (в России — великая княгиня Елизавета Маврикиевна). В семье было девять детей, князь Олег был пятым ребёнком (четвёртым сыном).
Князь Олег занимался литературным творчеством, писал стихи и прозаические произведения, увлекался музыкой и живописью.
В 1913 году был произведён в корнеты лейб-гвардии Гусарского полка. С начала Первой мировой войны в составе своего полка принимал участие в боевых действиях на Северо-Западном фронте. Первоначально ему было предложено поступить ординарцем в Главную квартиру, но он добился разрешения остаться в полку.
27 сентября 1914 года князь Олег, командовавший взводом в своем полку, был тяжело ранен близ деревни Пильвишки в районе Владиславова. 28 сентября он был доставлен в госпиталь в Вильно, где был прооперирован. В тот же день был награжден орденом святого Георгия IV степени «За мужество и храбрость, проявленные при стычке и уничтожении германских разъездов» (дословно из Высочайшего приказа от 29 сентября 1914 г.: «За мужество и храбрость, проявленные при атаке и уничтожении германских разведчиков, причем Его Высочество первым доскакал до неприятеля»). Узнав о награждении, он сказал: «Пролитая кровь Царского дома поднимет дух войск».
Вечером следующего дня в Вильно прибыл отец князя Олега, который привез ему орден святого Георгия, принадлежавший великому князю Константину Николаевичу. Этот орден прикололи к рубашке умиравшего князя, который в тот же вечер скончался.
Стал единственным членом Российского Императорского дома, погибшим на фронте Первой мировой войны.
3 октября князь Олег был похоронен в имении Осташево Московской губернии, где в 1916г. был построен четырехстолпный одноглавый храм-усыпальница, сооруженный по образцу древних псковско-новгородских церквей (после революции усыпальница была разорена).