Оліфер Голуб народився в Стеблеві у 40-х роках 16 століття. Де він навчався невідомо, однак освіту отримав добру – про це свідчить хоча б те, що Голуб вільно володів латиною. Про родину гетьмана відомо мало. Його дружина, вочевидь, померла задовго до 1622 року – того, коли Оліфер став гетьманом; є також в історичних документах деякі відомості про сина Голуба, але подальша доля його невідома.
Перші згадки про діяльність Оліфера Голуба трапляються в літописах 1615 року, коли він уже мав ранг старшини, очолював козацький флот у нападах на турецькі землі і спалив дві пристані у Стамбулі. Друга звістка датується 1618 і 1620 роками. Козаки саме вели переговори з перським шахом щодо створення антиосманської ліги, і Голуб написав можливому союзнику два листи від імені козацтва, з чого можна зробити висновок, що саме він вів закордонні справи гетьмана Петра Сагайдачного. Таке могло статися лише за умови, якщо Голуб був одним із найближчих помічників, друзів і радників видатного козацького полководця й дипломата. Більше того, Оліфер, безперечно, очолював старшинський уряд, але реєстри 1617 та 1622 років не зафіксували існування його полку, тобто він постійно був при Сагайдачному.
У 1622 році Сагайдачний, що дуже страждав від поранення отруєною стрілою, яке здобув під час Хотинської битви, вирішив скласти заповіт. Це відбулось 5 квітня – за п’ять днів до кончини великого гетьмана. Розпорядниками свого майна Сагайдачний призначив митрополита Іова Борецького та Оліфера Голуба. Тоді ж стався унікальний випадок, про який вітчизняні історики уникають згадувати. Помираючи, Сагайдачний заповів Голубу... гетьманську булаву і подарував йому свій «титульний» маєток Конашівку. Про це в одному з листів розповідає Мелетій Смотрицький. У даному випадку гетьман діяв не як виборна особа, а як упевнений у своєму праві європейський монарх.
Сагайдачного не стало 10 квітня 1622 року, і новим спадковим хазяїном булави став Оліфер Голуб. Така ситуація повторювалася ще тільки раз – через 34 роки, коли пішов із життя «батько Хмель». Населення України та реєстрові козаки нового гетьмана визнали, але Низове козацтво вирішило зібратися на Велику Раду на річці Росаві, яка і відбулася 20 травня. У той день на Кагарлицькому полі були присутні понад двадцять тисяч козаків. Вони, власне, не зби1 ралися сперечатися з останньою волею Сагайдачного, але треба було створити видимість вільних виборів, щоб не порушити давню традицію. Королівські комісари не встигли на цю Раду. Польський уряд не бажав бачити на посаді гетьмана людину, яка б представляла інтереси козацтва в цілому. У цьому випадку були б знову порушені болючі питання релігійного характеру та розширення реєстру. Але вдіяти полякам нічого не вдалося: друга Велика Рада підтвердила результати першої.
Голуб тим часом переїхав до Києва і разом із митрополитом Іовом Борецьким 24 червня склав акт про передачу майна померлого великого гетьмана. Виконувачі духівниці Сагайдачного також розробили план сумісних дій козаків та духовенства на сеймі, що мав відбутися на початку 1623 року.
Напередодні сейму козацька Рада, яка зібралася під Києвом, вирішила домагатись остаточного скасування унії, повернення церковних земель і відібраних уніатами церков православній митрополії, відновлення козацьких привілеїв.
Під керівництвом нового гетьмана на Січі були укріплені оборонні споруди, у Трахтемирові козаки знову відкрили притулок для літніх та безпомічних козаків. Відбувся новий великий похід на морі і ще один – під Бєлгород. У той же час до війська були вписані сто тисяч козаків, якими було доручено командувати ста полковникам.
Козацьке посольство, що прибуло на сейм до Варшави, прямо заявило: у тому разі, якщо їхні побажання не будуть виконані, вони «зчинять повстання». Але після кількох днів суперечок коронний уряд вирішив: релігійних справ поки що взагалі не торкатися, реєстр скоротити до п’яти тисяч, а питання унії відкласти до наступного сейму.
Протягом усього життя Оліфер Голуб визначався як блискучий флотоводець. Він був останнім гетьманом, який одержав так багато перемог на морі. Водночас ця людина зіграла одну з провідних ролей у повстанні проти свавілля шляхти. У 1626 році Голуб, якому було майже вісімдесят років, знову посів місце гетьмана Запорозького (тобто нереєстрових козаків). Незважаючи на вік, він вирішив ще раз узяти участь у поході на Крим – щоб остаточно звільнити півострів із-під влади Стамбулу. У результаті, козаки буквально розтрощили турецьку армію.
Однак повернутися з цього походу Голубу вже не судилося. Разом із давнім бойовим товаришем Михайлом Дорошенком він загинув під Бахчисараєм.
Історики вважають, що невдача посольства спонукала Оліфера Голуба скласти із себе повноваження гетьмана. На початку 1623 року булава була передана полковнику Богдану Конші, а в травні, після раптової смерті Конші, Михайлу Дорошенку. До речі, Голуб дізнався про це лише пізніше, бо саме очолював морський похід під Стамбул.
Михайло Дорошенко влаштовував польський уряд – він зневажливо ставився до Низового козацтва («черні»), дбав тільки про потреби реєстровців, конфліктував із православним українським населенням.
Козаки, отримавши такого ватажка, почали хвилюватися. У 1624 році, після недовгого гетьманування Марка Жмайла, старшини знову повернули булаву Голубу, який до цього мав чин полковника.