CityLearn은 강화학습을 활용한 에너지 관리 연구를 위한 모듈형 시뮬레이션 플랫폼입니다. 사용자는 다구역 건물 클러스터, HVAC 시스템, 저장 유닛, 재생 에너지원을 정의하고 수요 반응 이벤트에 대응하는 RL 에이전트를 훈련시킬 수 있습니다. 환경은 온도, 부하 프로파일, 에너지 가격 등의 상태 관측값을 제공하며, 행동은 설정점과 저장 디스패치를 제어합니다. 유연한 보상 API는 비용 절감 또는 배출 감축과 같은 맞춤형 메트릭을 허용하며, 로깅 유틸리티는 성능 분석을 지원합니다. CityLearn은 벤치마크, 커리큘럼 학습, 새로운 제어 전략 개발에 적합합니다.

Fast Reinforcement Learning은 강화 학습 에이전트의 개발과 실행을 가속화하기 위해 설계된 전문 Python 프레임워크입니다. PPO, A2C, DDPG, SAC와 같은 인기 알고리즘을 바로 사용할 수 있으며, 높은 처리량의 벡터화된 환경 관리를 결합합니다. 사용자는 정책 네트워크를 쉽게 구성하고 학습 루프를 사용자 정의하며, 대규모 실험을 위한 GPU 가속을 활용할 수 있습니다. 이 라이브러리의 모듈식 설계는 OpenAI Gym 환경과 원활하게 통합되어, 연구자와 실무자가 다양한 제어, 게임, 시뮬레이션 작업에서 에이전트를 프로토타이핑, 벤치마킹, 배포할 수 있도록 지원합니다.

OpenSpiel은 간단한 행렬 게임부터 체스, 바둑, 포커와 같은 복잡한 보드게임까지 다양한 환경을 제공하며, 가치 반복, 정책 기울기, MCTS 등 여러 강화학습 및 검색 알고리즘을 구현하고 있습니다. 모듈식 C++ 핵심과 Python 바인딩을 통해 사용자 정의 알고리즘을 통합하거나, 새로운 게임을 정의하거나, 표준 벤치마크에서 성능을 비교할 수 있습니다. 확장성을 고려하여 설계되어 있으며, 단일 에이전트 및 다중 에이전트 설정을 지원하여 협력적이고 경쟁적인 시나리오 연구가 가능합니다. 연구자들은 OpenSpiel을 활용하여 빠르게 알고리즘을 프로토타입하고, 대규모 실험을 수행하며, 재현 가능한 코드를 공유합니다.

Scale Insights는 아마존 FBA 판매자를 위해 특별히 설계된 고급 AI 기반 PPC 자동화 솔루션을 제공합니다. 사용자는 여러 캠페인을 관리하고 성과에 대한 깊은 통찰을 얻고 데이터 기반의 결정을 내릴 수 있습니다. 이 플랫폼은 맞춤형 알고리즘, 실시간 데이터 및 자세한 분석을 제공하여 판매자가 광고 전략을 최적화하고 투자 수익률을 높일 수 있도록 도와줍니다. 아마존 비즈니스를 효율적으로 확장하기에 적합하며, Scale Insights는 신규 사용자에게 30일 무료 평가판을 제공합니다.