日本青二塾周日養成所畢業。在日本大學藝術學部放送學科就讀時,主要是專攻電視節目制作。但因為當時提出的企劃作品被教授評價的很差,所以轉而改以演出者方式參與,并在參與過程中感受到演戲的有趣,因此決定以成為聲優為目標。但其實曾經跟他是同學的友人都表示,是因為身為組長的大輔對自己太沒自信,也不好意思去差遣別人,總是把事情往身上扛,才會使企劃不如預期。也同時表示企劃沒有小野大輔自己說的那么差。出道當時,以動畫節目的準常態出演為主。第一部擔任主角的動畫作品是《AIR》TV動畫版的男主角國崎往人。在2006年放送的動畫《涼宮春日的憂郁》以古泉一樹這個角色獲得廣大知名度,其后也陸續獲得許多要角演出。從帥氣知性的青年到有點脫線的搞笑角色,演出的類型范圍十分廣泛。2008年以《南家三姊妹》保坂這個角色獲得聲優獎男優部門配角賞。2010年3月6日于第4回聲優獎以《黑執事》賽巴斯欽這個角色獲得聲優獎主演男優賞。2015年憑借“神谷浩史,小野大輔的DearGirl～Stories～”與神谷浩史一同獲得第九回聲優獎最佳主持賞,并再次獲得聲優獎主演男優賞。2016年,2月1日,宣布離開MausuPromotion事務所,成為自由身。
※粗體為作品主要角色