Ca sĩ Anh Ngọc tên thật là Từ Ngọc Toản, sinh ngày 28 tháng 12 năm 1925 tại Hà Đông trong một gia đình gồm có một chị và 7 anh em trai. Ngoài Anh Ngọc, người em là Từ Ngọc Long (đã mất ở Việt Nam) và người anh Từ Ngọc Bích (đã quá vãng, chủ nhiệm nguyệt san Thế Giới Tự Do trước 75), trong nhà không ai sinh hoạt văn nghệ, báo chí.

Ở Hà Nội, ông thành hôn với kịch sĩ Giáng Hương, người cùng tuổi với ông. Giáng Hương là một trong bốn nàng Kiều đẹp nổi tiếng thời ấy ở số 68 Hàng Bông gồm Nguyễn Kiều Vinh, Kiều Dinh (Giáng Kiều), Kiều Hinh (Giáng Hương) và Kiều Hương trong câu thơ Quang Dũng: “Đêm mơ Hà Nội dáng Kiều thơm”. Nhà văn Hồ Trường An viết về nghệ sĩ Giáng Hương:

Kiều Hinh có vẻ đẹp thật sắc sảo đa tình, võ vẽ học ngâm thơ và đóng kịch và trở thành nữ kịch sĩ Giáng Hương. Về sau, chị đóng vai nhì trong hai phim. Phim đầu là Đất Lành do Vĩnh Noãn đạo diễn với các diễn viên Lê Quỳnh, Khánh Ngọc, Kiều Hạnh và Giáng Hương. Phim thứ nhì là Nước Mắt Đêm Xuân do Hoàng Anh Tuấn đạo diễn, với các diễn viên như Nguyễn Long, Mai Trường, Lệ Quyên và Giáng Hương.

Bà cũng là một trong những nghệ sĩ diễn ngâm thuộc nhóm Thi Ca Tao Đàn do nhà thơ Đinh Hùng thành lập sau khi di cư vào Nam. Ông bà có với nhau 4 người con: Từ Ngọc Trung, Từ Ngọc Dũng, Từ Ngọc Nghĩa và Từ Huyền Trang (Julie).

Anh Ngọc có thời gian theo học nhạc lý với nhạc sĩ Tạ Phước và đàn với nhạc sĩ Nguyễn Thiện Tơ và tình cờ bước vào con đường ca hát, khởi đầu từ những năm sau Đệ Nhị Thế Chiến. Năm 1947, ông vào Huế thăm một người anh làm việc ở đây và lưu lại Huế hơn 1 năm. Trong thời gian này ông được nữ ca sĩ Minh Trang mời hát trên đài phát thanh Huế.

Năm 1949 Anh Ngọc vào Sài Gòn để khởi đầu cộng tác với đài phát thanh Pháp Á. Sau đó, ông lần lượt được mời hát trong chương trình ca nhạc của các đài phát thanh Quân Đội, đài phát thanh Sài Gòn, đài Mẹ Việt Nam, đài Tiếng Nói Tự Do và đài Truyền Hình Việt Nam.

Trong một bài viết, Hồ Nam ghi nhận:

Anh Ngọc Từ Ngọc Toản là ca sĩ có giọng ca bắt được của trời. Khi Anh Ngọc cất tiếng ca thì Ngọc Bảo đã là ca sĩ có giọng hát được hãng đĩa ở Paris mua bản quyền tiếng hát và có thính giả ái mộ là vua Bảo Đại; nhưng tiếng ca Anh Ngọc đã được một trong bốn người đẹp mà dân Hà Nội lúc bấy giờ gọi là bốn nàng Kiều…

Giữa lúc tiếng hát Anh Ngọc leo lên đỉnh cao thì tiếng hát Duy Trác xuất hiện. Tiếng hát Duy Trác trẻ khỏe, vạm vỡ hơn tiếng hát Anh Ngọc nhưng vẫn không cao sang hơn được tiếng hát Anh Ngọc. Trong bảng xếp hạng của người nghe tiếng hát, Anh Ngọc vẫn trên tiếng hát Duy Trác một bậc. Rồi Sĩ Phú xuất hiện, giọng hát Sĩ Phú khỏe và sang vượt qua giọng hát Duy Trác nhưng vẫn không vượt qua được giọng hát sang trọng và cao quí của Anh Ngọc…

Có một lúc, Anh Ngọc từng song ca với Vũ Huyến trên sân khấu. Anh Ngọc cùng Văn Phụng và Nhật Bằng thành lập nhóm nhạc Do Si La để trình bày những bài hát của Văn Phụng như Tiếng Ca Bên Đồi Vắng, Vui Bên Ánh Lửa, và bài Ánh Sáng Đồng Quê của Nhật Bằng… Cũng có một thời Anh Ngọc cùng Duy Khánh, Nhật Trường và Thanh Vũ hợp ca trên sân khấu đại nhạc hội.

Công việc chính của Anh Ngọc từ sau khi vào Sài Gòn là nhân viên của Sở Thông Tin Hoa Kỳ, từ năm 1949 cho đến khi ông được gọi động viên. Trong thời gian quân ngũ, Anh Ngọc phục vụ trong ngành Chiến Tranh Tâm Lý, trong vai trò xướng ngôn viên tại đài phát thanh Quân Đội. Sau khi giải ngũ, ông làm việc cho đài Tiếng Nói Tự Do, vừa là xướng ngôn viên, vừa tham gia những chương trình ca nhạc phát thanh. Với đài Sài Gòn, ngoài vai trò xướng ngôn viên, ông còn phụ trách một chương trình ca nhạc lấy tên là “Tiếng Nhạc Tâm Tình” từ đầu thập niên 1960 cho đến biến cố tháng 4 năm 1975.

Một thời gian sau khi ly hôn người vợ đầu Giáng Hương, Anh Ngọc gặp ca sĩ Thái Xuân khi chị bắt đầu đi hát ở Bộ Tổng Tham Mưu Phòng 5 Chiến Tranh Tâm Lý khoảng năm 1957. Chị Thái Xuân nhớ lại, những ngày đầu tiên bước chân vào làng văn nghệ, Anh Ngọc đã dìu dắt và tập luyện cho chị (chứ không phải là Nhật Bằng như một số tài liệu đã ghi). Anh Ngọc đã giới thiệu chị đi hát ở rạp Thanh Bình trong phần phụ diễn văn nghệ trước khi chiếu phim, giới thiệu chị lên đài phát thanh Saigon hát cho chương trình Tiếng Tơ Đồng của nhạc sĩ Hoàng Trọng và một số chương trình khác… Thái Xuân còn nhớ khi thu xong bài Cành Hoa Trắng của Phạm Duy, ca sĩ Minh Trang đứng phía đối diện với chị nghe xong vừa cười tươi vừa giơ ngón tay cái lên như một lời khen tặng.

Trong cặp mắt chị, Thái Xuân khẳng định với Thế Giới Nghệ Sĩ: “Anh Ngọc là nam danh ca đẹp trai nhất Việt Nam”. Anh Ngọc và Thái Xuân dọn về chung sống ở đường Trần Văn Thạch (gần góc Hai Bà Trưng), Saigon. Lúc đó, ca sĩ Minh Tuyết (chị của Uyên Ly, Kim Anh – tam ca Ba Con Mèo) cũng ở trong một con hẻm trên con đường này. Sau đó hai người dọn về một chỗ ở khác trong khu Thị Nghè để Anh Ngọc đi làm việc gần hơn. Ngày 5 tháng 9 năm 1962, Thái Xuân hạ sinh con gái Từ Ngọc Trâm.

Khoảng hơn một năm sau, 1963, Anh Ngọc và Thái Xuân chia tay, Thái Xuân dọn về Building Cửu Long đường Hai Bà Trưng, trên lầu là nơi cư trú và lui tới của nhiều nhà văn, nghệ sĩ nổi tiếng như Mai Thảo, Viên Linh, Hoàng Hải Thủy, Thanh Nam, vợ chồng nhạc sĩ Hồ Xuân Mai – ca sĩ Linh Phương, ca sĩ Tuấn Ngọc…

Cùng thời gian đầu thập niên 1960, Anh Ngọc quen ca sĩ Diệu Anh. Gia đình cô không đồng ý, đã gặp Anh Ngọc điều đình cho cuộc chia tay. Vì mối lương duyên không trọn vẹn, Diệu Anh đã quyên sinh năm 1961, theo ca sĩ Thu Thủy, cũng là cháu của Diệu Anh, cho biết, và chuyện này báo chí ngày ấy đã không tiếc giấy mực khai thác.

Khoảng năm 1964, khi ấy đã ngoài tứ tuần, Anh Ngọc quen chị Nhung (Judy Nguyễn) vừa tốt nghiệp đại học Sư Phạm, đang làm giáo sư Anh văn, còn Thái Xuân quen một phi công hàng không dân sự. Năm 1966, Thái Xuân theo chồng đi Nhật, đem Ngọc Trâm theo cùng. Nhưng mỗi lần có dịp về Việt Nam, Trâm đều ghé thăm ba.

Vợ chồng Nhung – Anh Ngọc có hai con gái là Tiffany Từ Thục Hiền và Stephanie Từ Thục Anh. Sau năm 1975, hai ông bà kẹt lại Việt Nam, và Anh Ngọc không tham gia vào bất cứ sinh hoạt ca nhạc nào. Ông bị đi tù cộng sản một thời gian. Ra tù, ông tìm vui trong bộ môn nhiếp ảnh, một môn nghệ thuật ông đã yêu thích từ thập niên 1960 nhưng chưa có thời giờ tìm hiểu.

Đến năm 1990, Anh Ngọc mới sang Mỹ theo chương trình đoàn tụ do gia đình bên vợ bảo lãnh. Ba năm đầu ông cư ngụ ở Quận Cam. Từ năm 1993, vợ chồng Anh Ngọc dọn về thành phố Burke, tiểu bang Virginia, định cư luôn ở đó cho đến nay. Chị Nhung từng làm phóng viên trong nhiều năm cho đài Tiếng Nói Hoa Kỳ (VOA).

Ca sĩ Quỳnh Giao nhận định:

Vào thời đại của Anh Ngọc, sự trình diễn trên sân khấu không rộng rãi như hiện tại, nhưng nhân dáng cao gầy, lịch lãm của ông đã là hình ảnh khó quên của khán giả thời đó. Anh Ngọc là người có thể gợi nhớ hình ảnh của Hà Nội văn vật trong cách ông chọn lựa ca khúc và Sài Gòn văn minh qua cách ông trình bày những ca khúc ấy. Dáng dấp của ông và nghệ thuật của ông khiến chúng ta hiểu chữ “tài tử” theo đúng nghĩa tài hoa, có lẽ đang lạt phai dần trong trí nhớ chung…

Trung Tâm Diễm Xưa của ca sĩ Thái Xuân đã sản xuất và phát hành đĩa Tiếng Hát Lênh Đênh với giọng ca Anh Ngọc tại hải ngoại, mừng gia đình ông định cư tại Hoa Kỳ. Mùa hè năm 1990, nhạc sĩ Đăng Khánh (tức nha sĩ Nguyễn Nhật Thăng) đã tổ chức buổi trình diễn đầu tiên cho Anh Ngọc ở Houston, Texas. Ngày 16 tháng 11 năm 1990 là buổi ra mắt CD tại vũ trường Ritz của nhạc sĩ Ngọc Chánh, và khán giả Quận Cam, California, đã được hội ngộ giọng hát Anh Ngọc lẫy lừng thuở nào…