ゲームシステム
移動画面
従来のナンバリング作品では上方からマップを見下ろした視点だが、本作では後方から先頭キャラクターを見た視点となった。先頭キャラクター自身の視点から周囲を見渡せる機能も搭載されており、謎解きでもこの機能を活かせる場面がある。移動画面では、パーティーの人数に関係なく、先頭のキャラクター以外のキャラクターが登場しない。
移動画面の視点の変化に伴い、プレイヤーが迷いにくくなるような工夫がなされている。移動画面では自分がどの方角を見ているかがわかるように、画面左下に方位磁針が表示される。また、フィールド上だけでなく町やダンジョン内でも地図を見ることができ、ダンジョンでは宝箱から手に入れることにより閲覧可能となる。
キャラクターグラフィックでは、そのキャラクターのアクションが移動時でもアニメーションで表示される。上記の地図の閲覧の時は道具袋から地図を取り出し、洞窟探索の時は手に松明を持つ。また、そのキャラクターが装備している武器も一緒に表示されている。移動画面では、例えば剣なら肩口に背負う（主人公）・腰に差す（ククール）、鞭なら丸めて腰に下げるなどしており、従来作品の「街中でも常に武器を構えている」ようなキャラクターアイコンとは一線を画している。装備している武器が変われば、武器グラフィックも変わり、戦闘画面でもそれに合わせた演出がなされる。以降、詳しくは「戦闘」の項を参照。
従来の作品では町・城などの施設がフィールドマップにアイコン?で表現されていたが、本作では画面の切替はあるが、フィールドマップからも町などの建物を同サイズで見ることができる。フィールド上には、主要な町やダンジョンを結ぶ街道が存在しており、街道と道しるべに従って走っていけば、確実に目的地に着くことができるようになっているが、街道から外れることにより、後述のチームモンスターや宝箱を発見できることもある。
キャラクターの移動は「歩く」と「走る」を使い分けることができる。「走る」を利用することが多いが、ダンジョン内や特定のイベントなどでは、あえて「歩く」必要がある場面も存在する。旧来の「しらべる」は廃止され、何かを調べる際には「べんりボタン」を使用する。一方、扉を開けるときのボタン操作が必要になった。
『ドラゴンクエストIII』『IV』『V』で採用されていた「昼」「夜」の時間の流れが再登場した。本作では立ち止まっていても、また、町などの中でも屋外であれば時間が経過する。本作には時間を操作する呪文やアイテムは登場しないが、昼間に宿屋で「泊まる」ではなく「休む」を選択すると、HP・MPの回復と同時に時間を昼から夜にすることができる。夜でなければ見られないイベントやモンスターも存在する。
仲間として同行しているキャラクターと会話する機能が前作から引き継がれたが、今回は「なかま」コマンドを実行し、話しかけるメンバーを選択して行うシステムになった。選択しなかった場合、順番に一人一人話しかける形になる。
また、本作からトラップモンスターはひとくいばこやミミックのような宝箱だけとなり、本作以降の作品に登場する壷、本棚、井戸は全て安全に調べられるようになった。かわりにそれら宝箱モンスターと一般エンカウントでも遭遇する。
乗り物
本作では乗り物もリアルなサイズで描かれており、水上や空中の移動の際は、地上とは別の専用のフィールド画面に切り替わるようになっている。
- 古代船 - 乗り込むことによって水上を移動する。上陸時は船に備わったはしけ（タラップ、ランプ）を降ろすため、高さの調節ができ、船より背の高い崖などを除けば大抵の場所に接岸できる。なお、本作独自の要素として、橋をくぐることが出来るようになっている。動力は風力だが帆船ではなく、「Vジャンプ緊急増刊2004」に掲載された資料によると、製作した古代人が空神石（くうしんせき）という隕石の性質（強力な引力で互いにくっつきあおうとするが、手のひらや動物の皮などの遮蔽物でコントロールできる）を利用して、風車の回転とオールが連動するメカニズムにしてあるという。なお、これはあくまでデザインの際に鳥山明が考案した裏設定であり、ゲーム中では一切語られない。
- キラーパンサー - ヒョウのような姿をした魔物。フィールド上で「バウムレンのすず」を使用することによって呼び出して騎乗し、陸上を高速で移動する。モンスターとのエンカウントは徒歩時と同様に発生するが、距離あたりのエンカウント数は少ない。地域によっては呼び出せない場所もある。
- 神鳥 - アイテム「神鳥のたましい」を使用することにより、主人公たちが光に包まれ神鳥に姿を変え、空中を自在に飛ぶ。闇の世界では使用できない。
戦闘
戦闘画面はシンボルエンカウントである。戦闘は旧来のシリーズと同様のターン制。パーティは主人公に加えて3人のキャラクターが仲間になり、彼らには設定した作戦に応じたAI（人工知能）によって自動的にコマンド入力をさせることもできる。ストーリーの進行上馬車が同行している。
コマンド入力時や複数のターゲットが対象になる場合は従来のように敵モンスター・味方キャラが横に並んで表示される形式だが、ターン中はプレイヤー側のキャラクターも画面に映り、カメラアングルが目まぐるしく変化する3Dアニメーションで戦闘が展開される。戦闘結果を示すメッセージは従来と同じように画面下に表示されるが、それとともにダメージ量や回復量の数値が対象キャラクターに重なって表示され、ダメージ対象が複数の場合は個々のダメージ値を一斉に表示し、メッセージでは平均値（連続攻撃が一対象のみの場合は合計値）のみを表示することによって、戦闘のスピード化が図られている。
プレイヤー側キャラクターは戦闘画面切り替え直後、それまで収納していた武器を構えるアクションが見られる。これは毎回やるわけではなく、街などの施設からフィールドに出て最初の戦闘などで見られる。さらに戦闘終了後は武器をしまうアクションを行う。こちらは「にげる」や全滅で戦闘終了した場合以外は毎回行う。各自、装備している武器によってこれらのアクションも異なる（例えばブーメランなら、しまう前に一回宙に放り投げたりする）。戦闘中には武器に加えて盾もそのデザイン通りに描かれる。
戦闘中、「こうげき」や「とくぎ」を行う場合、装備した武器を持って敵に攻撃する様がアニメーションで表示され、「ぼうぎょ」した場合は装備している盾を構える。これらの装備品が変われば、ゲーム中のグラフィックも変化する。ただし呪文を唱える際、および一部の特技の際には武器・盾が表示されない。呪文を使うと各人固有の発動ポーズと共に、魔法文字が宙を踊る様が描写される。
ターン開始時のコマンドには、旧来の「たたかう」「にげる」「さくせん」に加えて、敵を脅かして退散させることができる「おどかす」が追加された。退散する確率はパーティーとモンスターのレベル差によって変化し、退散した敵はアイテムを落とすこともある。失敗時は敵から攻撃を受ける場合もある。機械系の魔物は感情を持たないため効果が無いどころか必ず反撃されてしまう。ゾンビ系の魔物は感情をほぼ持たないため効きにくい。
攻撃呪文・特技の威力は、使用するキャラクターの「かしこさ」の値によって変動するようになった。
他、全滅時のペナルティは、従来のシリーズでは所持金が半分になり、主人公以外は全員死んだままの状態で最後にセーブした場所からの再開だったが、本作からは仲間も全員生き返るようになった。
全滅したときの音楽は『II』 - 『VII』までは作品ごとに異なっていたが、本作では『I』以来の「死」のMEが使われ（モンスターズシリーズでは本作に先立ち、毎作使われている）、以降の作品ではほとんどこの曲で固定となった。
テンション
攻撃などの威力を高めるための新たなシステムとして「テンション」が初登場。これに伴い、AI戦闘の作戦にもテンションアップを重視する作戦「テンションためろ」が新登場した（代わりに「おれにまかせろ」が廃止）。このシステムは、『ドラゴンボール』の「超サイヤ人」の影響により考案された。
テンションを上げると、武器攻撃・呪文・特技のダメージ量が通常時と比べて増大する。相手へのダメージだけでなく、防御行為や回復呪文・特技、味方への補助呪文の効果も同様にテンションによって増幅するが、一部の呪文・特技やアイテムの使用に関してはテンションの影響を受けない。
テンションは「ためる」コマンドの使用によって1段階アップし、続けて使うことで最大4段階まで上昇する。4段階目は身体からオーラを放つ「スーパーハイテンション（以下SHT）」状態になるが、SHT状態になれる確率は低く、一定回数のテンションアップを経験していないとSHT状態になることはできない。また、敵モンスターにもテンションを使用するものが存在し、中には一気にハイテンション（第3段階）、SHTになるものもいる。テンションの効果を一度発揮すると元の状態（ふつう）に戻り、ステータス異常に陥った場合や特定の攻撃を受けたときなども「ふつう」に戻る。
本作では、ゾンビ系やエレメント系（幽霊など）の敵モンスターは、普通に攻撃してもダメージを与えにくくなっているが、テンションを使うことにより、物理攻撃・呪文攻撃に関係なく大きなダメージを与えられる。
スキル
メンバー全員が共通の特技・呪文を習得できた『VI』『VII』とは異なり、本作では戦士・勇者・僧侶・魔法使いといった明確な役割をキャラクターに割り振ったものに戻した。レベルアップによる固定された成長システムのほかに、新要素スキルによってプレイヤー独自の育成要素を確保している。
各キャラクターには、各々が使用できる武器のスキル3種類と、素手での攻撃に関する「格闘スキル」、各キャラクター固有の特殊スキル（登場キャラクターの節を参照）の合計5つのスキルが備えられており、レベルが上がると、ステータスの上昇と同時に与えられるスキルポイントを5つのスキルに任意に振り分けることができる。スキルポイントが一定値に達することで、呪文・特技の習得や該当武器での攻撃力上昇などが起きる。レベルアップ時以外でも、アイテム「スキルのたね」を使うといつでも5スキルポイントを得られる。ただし、レベルによってスキルポイントに上限があり、それ以上に上げることはできない。
スキルアップによって覚える特技の中には、特定の種類の武器を装備して（もしくは素手の状態で）いないと使用できないものも存在する。
この成長システムに伴い、シリーズを重ねるごと必要以上に増加傾向にあった呪文・特技が適量に整理された。また前作までノーコストだった特技に、MPやアイテム消費を課すなどの調整もしている。
錬金釜
戦闘に直接関係のないシステムとして、錬金術によって2つまたは3つのアイテムを合成させ、新たなアイテムを作り出す「錬金釜」が初登場した。ストーリーが進み錬金釜が使える状態になった後、馬車が一緒にいる移動中に使用できる。当初は釜に入れられる材料は2つだけだが、シナリオが進むと3つのアイテムを合成できるようになる。全く使用しなくてもゲーム自体は進められるが、店では入手できない強力なアイテムを製造できたり、販売している物でも自作することで普通に購入するよりも早い時期に、また安価に入手できたり、売値の高いアイテムを合成することで金を稼いだりと、攻略を有利に進められる。
錬金の材料の組み合わせに関するヒント（錬金レシピ）は、世界各地で人々の話や文献などから入手でき、情報を得ると「錬金レシピノート」に追加される。中には完成物や材料がアイテム名ではなく曖昧な表現となっているレシピもあり、その場合は対象物の錬金の成功時に正しいアイテム名が表示される。ただしレシピを入手しなくても必要なアイテムが揃い、正しいレシピであれば錬金は可能である。
モンスターチーム
本作のフィールド上には目に見える魔物（チームモンスター）が特定の場所を徘徊しており、これらをスカウトしてモンスターチームを組むことができる。フィールド上にモンスターが見えるという設定は開発当初は無かったが、試行錯誤的に制限の範囲内でモンスターを配置したところ、それらのモンスターを特別な存在とすることをひらめき、モンスターチームのシステムが採用されるに至ったという。
チームモンスターには、同じ種族のモンスターでも各地に散らばって数種類生息しているものや、時間限定のものなど発見自体が困難なレア度の高いものも存在する。チームモンスターに接触すると戦闘となり、一定条件を満たしていると、勝利後にこれらのモンスターをスカウトできる。そしてスカウトしたモンスターの中から最大3匹でチームを結成することができる。
結成したモンスターチームは闘技大会モンスター・バトルロードに参加させることができる。モンスター・バトルロードはランクGからA、そしてSまでの8段階があり、それぞれ3試合連続で勝利すると優勝となり、賞品や特典が得られる。低ランクの試合で優勝しないと上のランクの試合には参加できない。
バトルロードでのランクを上げると、主人公が「チーム呼び」の特技を覚える。戦闘でこれを使うとターン最初に主人公パーティーとモンスターチームが入れ替わり、一定ターンの間戦闘を任せることもできるようになる。戦闘に参加するターン数は、チームのメンバー構成によって異なる。さらにランクを上げればモンスターチームを2つ持つことも可能となるが、呼び出せるのは1回の戦闘内で1チーム1回のみである。
バトルロード、戦闘のどちらの場合においてもチームモンスターは自動で行動し、プレイヤーが行動を指示することはできない。チームのメンバーを特定の組み合わせ（同じ武器を持つモンスター同士など）にすれば、一定確率で特殊な必殺技が発動することがある。また、チームモンスターも主人公たちと同様HP・MPを持ち、HPが0になり死亡したモンスターは無料でモリーに復活させてもらうことができる。ただし、モンスターチームが全滅した場合も、全滅回数に加えられる。
やりこみ要素・ミニゲーム
- 戦いのきろく
- PlayStation版『ドラゴンクエストIV』で登場した戦歴システムが継承された。戦歴画面では勝利・逃走・全滅の回数や1ターン最大ダメージなどを閲覧でき、トロデによる状況に応じたコメントが付く。
- カジノ
- ゲーム中の2か所に存在する。専用のコインを購入して各ミニゲームに挑戦し、獲得したコインを景品と交換できる。『ドラゴンクエストIV』と同じ方式のスロットマシンに加え、本シリーズ初登場のビンゴとルーレットが登場。
- ちいさなメダル
- 一定枚数の「ちいさなメダル」を集めることにより、特定のアイテムを得ることができる。本作ではメダル王ではなくメダル王女がメダル収集の役割をする。