리눅스로 DB 서버를 구축하려면

웹서버는 윈도우서버를 사용하고 DB를 리눅스로 구축하여 웹서버와 DB서버를 분리한다는 말씀이시네요.

그리고 DB서버는 웹서버와 사설IP로 연결을 한다라는 말씀이시구요.

그렇게하는 것은 가능합니다.
웹서버에는 랜카드 두개가 필요하구요. 하나는 공인이고 나머지 하나는 DB와 연결할 사설IP를 할당하여 사용하구요.
그리고 웹서버에는 Mysql연결용 API가 설치되어 있어야합니다.
ASP에서 다른 서버의 MYSQL과 연결할 API가 어떤것인가는 정확하게 알지는 못하지만 아마도 MYSQL연결용 ODBC가 있을 것 같습니다.

그것만 설치하고 DB서버 연결 테스트를 해보시기 바랍니다.

직접 테스트하여 보여드리면 좋겠지만, 현실적으로 어렵네요.
그럼....성공하시기를....