Etudier ceux existant pour choisir le plus simple et le plus utilisé.
Ma préférence va pour commons-dbcp.

En profiter pour exposer le DataSource utilisé (API et JNDI) afin que certains framework peuvent le récupérer de façon propre (Hibernate, Ibatis, Spring JdbcTemplate, ...).

Références :

• http://commons.apache.org/dbcp/
• http://www.hibernate.org/hib_docs/reference/en/html/session-configuration.html
• http://ibatis.apache.org/docs/java/dev/com/ibatis/sqlmap/engine/datasource/package-summary.html
• http://static.springframework.org/spring/docs/2.5.x/reference/jdbc.html