Оба эти файлы исполняются оболочкой при старте.

Отличие же состоит в том, что .bashrc выполняется интерактивными оболочками (тоесть в окне терминала), а .bash_profile login-оболочками (когда приходится перед началом работы вводить логин и пароль, например при подключении к удалённой машине).

Для того чтобы не нужно было поддерживать два абсолютно различных файла в .bash_profile обычно присутсвует что-то типа:

[[ -r ~/.bashrc ]] && . ~/.bashrc

Которая включает .bashrc в .bash_profile. Таким образом общие настройки можно хранить только в .bashrc.