بله.همون SQLJDBC برای اتصال کافیه.و نیاز به تنظیمات ODBC نیست.
مطمئن شو که فایلی رو که دانلود کردی(منظورم SQLJDBC) ، درست دانلود شده.برای این کار فایل JAR رو با برنامه WinRar باز کن و به مسیر com.microsoft.sqlserver.jdbc برو و مطمئن شو که فایل SQLServerDriver اونجا وجود داره.(خیلی مهم)
اینم نحوه ساخت Login جدید:
http://msdn.microsoft.com/en-us/library/aa337562.aspx
فقط یادت باشه Login رو با استفاده از SQL Server Authentication بسازی.
شما این کار ها رو انجام بده.تنظیمات ODBC رو هم پاک بکن.به یاری خدا درست میشه.