なんとなく、入れてみただけです。
参考：Installing From Packages

環境

Windows7
Vagrant
CentOS6.5
apache2.2

ダウンロードとインストール

> sudo su
> yum -y install at
curl https://dl-ssl.google.com/dl/linux/direct/mod-pagespeed-stable_current_x86_64.rpm -o mod-pagespeed-stable_current_x86_64.rpm
> rpm -U mod-pagespeed-stable_current_x86_64.rpm

mod_pagespeedのインストールは、モジュールを自動的に更新するためにGoogleリポジトリを追加します。Googleのリポジトリが必要でない場合、パッケージをインストールする前に
sudo touch /etc/default/mod-pagespeedを実行してください。
（と書いてありました。）

設定

VirtualBox等で動かしている場合、ホストマシンからのアクセスを許可するように
apache用設定ファイルを修正。
> vi /etc/httpd/conf.d/pagespeed.conf

    <Location /pagespeed_admin>
        Order allow,deny
        Allow from localhost
        Allow from 127.0.0.1
        Allow from 192.168.0.0/255.255.255.0  # Add this line
        SetHandler pagespeed_admin
    </Location>
    <Location /pagespeed_global_admin>
        Order allow,deny
        Allow from localhost
        Allow from 127.0.0.1
        Allow from 192.168.0.0/255.255.255.0 # Add this line
        SetHandler pagespeed_global_admin
    </Location>

Apacheリロード
service httpd reload

アクセス

/pagespeed_admin
/pagespeed_global_admin

とりあえずページは見れたけども、見方がわからず放置中。