PepperAG
Basic Repo für ein Pepper Projekt der FAU.
Wir basteln einen LLM angetriebenen Agent der durch den Pepper Roboter verkörpert wird.
Ziel ist es, dass Pepper mittels Retrieval-Augmented-Generation (RAG) auf Basis eines PDF-Datensatzes informative und verlässliche Auskünfte über die FAU und deren Studiengänge bereitstellen kann. Der Roboter soll dabei möglichst selbständig und ohne Internetzugang, ausschließlich über einen leistungsstarken PC/Laptop betrieben werden, um beispielsweise auf öffentlichen Messen eingesetzt zu werden.
Der Roboter und sein Handlungsspielraum wird über das Python backend orchestriert.
Get Started
-
Navigate to the desired project location.
-
Clone the repository:
git clone https://gitlab.cs.fau.de/so47dyxa/PepperAG.git
-
Setup a ollama docker container:
sudo docker run --gpus=all -d --name ollama --restart always -p 11434:11434 -v ollama-data:/root/.ollama ollama/ollama:latest
-
Install the latest Python 3 from https://www.python.org/downloads/
-
Move into the backend directory:
cd ./backend_directory
-
Rename the environment file:
mv .env.example .env
-
Install the python dependencies:
pip3 install -r requirements.txt
-
Run the backend using:
python3 main.py
Currently no frontend but the Pepper robot itself exists, but the backend should be plenty to play around. Have fun :)