１９５６年福岡県、博多に生まれる。
　１１歳のころよりクラリネットを始め、１５歳でアルトサックスに転向。
東京芸術大学サキソフォン科を卒業後、ビッグバンドを中心に活動を開始。
　８２年渡米。ニューヨークにてジャズの研鑽を積む。帰国後、原信夫とシャープス・アンド・フラッツのリードアルトとして活躍するがソロ活動に専心するため８９年退団。数々の名プレイヤーと競演するかたわら自己のカルテットを率いて都内、横浜などのライブハウスで演奏する。
９２年ジャズヤトラ(インド)、９５年コンコードジャズフェスティバル（アメリカ）に参加。
また９７年から２００８年にかけて１１回の韓国ツアーを成功させる。
９８年『アーバン・スィート』、
２０００年『ワンス・アイ・ラブド』、
２００１年『アジアン・モダニズム』、
２００２年『シルバー・ロード』
２００５年『ソウル・アイズ』
の５枚のリーダーアルバムをリリース。
２００７年には『大山日出男カルテット』をリリース。当年の批評家投票においてベストテン入りを果たす。
またテレビ・ドラマの音楽を担当。全編を自己のカルテットを用いアコースティック・ジャズを貫いて、好評を得た。
古巣のシャープス・アンド・フラッツでは、2010まで北海道から沖縄まで日本縦断ツアー。同バンドの一員として、日本ジャズ史上初めての皇居内での演奏を果たし、天皇皇后両陛下をはじめ皇族の方々の御前で演奏。
終了後、両陛下と直接言葉を交わす栄誉に浴する。
執筆としては雑誌「THE SAX」へのジャズ講座連載も10年ほど継続。現代的なアドリブに不可欠なペンタトニック・スケールに関しての講座などをを連載した。２０１２年１０月にはリットーミュージックより「ピアノ伴奏で吹くアルトサックス」を出版。１２月には「アルソ出版社」より「ジャズヴォイスの研究（Study In Jazz）
を出版。また前作の続編として「ピアノ伴奏で吹くアルト・サックス ジャズ史に残る名盤ト リビュート編」２０１６年4月に出版。
２０１７年８月にはジャズの研鑽のため再度ニューヨークへ、同年１１月より台湾ツアーとして台湾各都市大学のコンサートや台北市のライブハウスでの演奏も継続して続けている。また最新アルバム『スタディイ・イン・ブルー』もリリース。新たな表現方法を獲得した。
最近では復活した『原信夫とシャープス＆フラッツ』のコンサートマスターとしても活動中。