Eclipse 3.2 では Javadoc ロケーションの API リファレンスからホバー情報を取得できるようになったため
http://java.sun.com/j2se/1.5.0/ja/docs/ja/api/
を JRE システムライブラリの rt.jar に指定すれば大丈夫 (JDK のバージョンに合わせる)。
3.2 以前では mergedoc を使えば大丈夫。ということを mergedoc プロジェクト で知りました。